Há vários poemas na série de TV "A Longa Temporada": "** estalar os dedos, ele diz / Nós estalamos os dedos com uma ressonância / Coisas distantes serão quebradas / As pessoas à sua frente não sabem neste momento**".
O professor Liu Jia disse que é apropriado usar este poema para descrever o estado atual dos seres humanos que enfrentam a AGI (Inteligência Geral Artificial).
"Cada uma das nossas previsões sobre o futuro pode ser ridícula e ridícula, e o futuro pode não ser o que você diz que é. No entanto, só quando mais e mais pessoas se juntarem à discussão, abrirem os seus cérebros juntos, pensarem brilhantemente em conjunto e até falarem disparates em conjunto, talvez possamos realmente mudar o futuro e conduzir a humanidade a um futuro melhor juntos. "
No final de setembro, visitamos o Professor Liu Jia no Laboratório de Cérebro e Inteligência da Universidade de Tsinghua. Neste intercâmbio, baseado em seus anos de acúmulo de pesquisa no campo da ciência do cérebro e inteligência artificial, o professor Liu Jia falou sobre o desenvolvimento futuro da AGI liderada pelo ChatGPT e seu possível impacto nos seres humanos, e apresentou muitas "ideias extravagantes" com base em seu campo de pesquisa, o que nos deixou profundamente inspirados.
Falando sobre o desenvolvimento futuro do campo AGI, Liu Jia disse que, por um lado, a inteligência incorporada e incorporada do agente de IA, ou seja, o grande modelo, está acelerando; Por outro lado, cientistas do cérebro e cientistas cognitivos, incluindo ele, começaram a discutir vigorosamente o problema da consciência que a IAG pode produzir no futuro.
Na opinião de Liu, na vida de uma pessoa, há muito poucas oportunidades de experimentar uma mudança de paradigma que lidere as mudanças dos tempos. Neste momento, encontramo-nos numa conjuntura histórica tão importante. Embora tenhamos também de reconhecer que essa mudança comporta muitos riscos. Por exemplo, o desemprego e o facto de termos de melhorar a nossa capacidade de aprender e dominar novas ferramentas.
No entanto, basta olhar para ele de outra forma e você verá que este novo mundo está nos mostrando infinitas possibilidades. A tecnologia GPT está a ajudar-nos a afastarmo-nos do trabalho repetitivo e intelectual tedioso, permitindo-nos dedicar-nos a carreiras mais criativas e gratificantes, e tornar o nosso tempo mais significativo. Talvez esta seja a manifestação do verdadeiro valor do ser humano.
"O nosso é o futuro do passado, porque as escolhas passadas determinam o resultado do presente. No entanto, o nosso presente não é o passado do futuro, porque o futuro está cheio de incógnitas, e as escolhas feitas no aqui e agora estão a moldar como será o nosso futuro. "
De frente para o futuro, só imaginação. Registraremos as principais visões deste diálogo com Liu Jia e as compartilharemos com os leitores do Tencent Research Institute.
Vamos estalar os dedos e abraçar o futuro juntos.
Convidados de diálogo:
Liu Jia Ph.D. do Instituto de Tecnologia de Massachusetts, há muito tempo está envolvido em psicologia, ciência do cérebro e pesquisa de inteligência artificial. Professor Catedrático de Ciências Básicas, Chefe do Departamento de Psicologia, Universidade de Tsinghua, Investigador Chefe do Laboratório de Cérebro e Inteligência da Universidade de Tsinghua, Cientista-Chefe do Instituto de Inteligência Artificial KLCII de Pequim
Entrevistador (doravante referido como T):
Niu Fulian Investigador sénior no Tencent Research Institute
Wang Qiang Diretor do Centro de Pesquisa de Ciência e Tecnologia de Fronteira do Tencent Research Institute
AGI: Acendendo a Faísca da Segunda Revolução Cognitiva **** **
Como pesquisador no campo da ciência do cérebro e inteligência artificial, como você vê o desenvolvimento da AGI desencadeada pelo ChatGPT e seu possível impacto no futuro da humanidade? **
Liu Jia: Antes da OpenAI lançar o ChatGPT em 30 de novembro do ano passado, a maioria das pessoas falava sobre IA e achava que era mágica, mas muitas vezes apenas da perspetiva da curiosidade. No entanto, desde o advento do ChatGPT, acho que é necessário que todos prestem atenção e entendam seu desenvolvimento e mudanças. O futuro da inteligência artificial geral (IAG) será tão importante quanto a energia hidrelétrica, não apenas mudando a forma como trabalhamos, mas também potencialmente impactando diretamente o futuro de cada um de nós, como o domínio de habilidades, o desenvolvimento infantil e o desenvolvimento humano. Na minha opinião, isso pode significar o advento de uma segunda revolução cognitiva. **
Por que é chamada de segunda revolução cognitiva? Comecemos por ver como aconteceu a primeira revolução cognitiva. Cerca de 70.000 a 100.000 anos atrás, duas espécies humanas, Homo sapiens e Neandertais, viviam juntas na Terra. Embora os neandertais fossem superiores a nós em altura e força, eles acabaram sendo substituídos pelo Homo sapiens. Como é que o nosso antepassado Homo sapiens derrotou os neandertais? Especula-se que entre 70.000 e 100.000 anos atrás, ocorreu a primeira revolução cognitiva, que se manifestou no crescimento explosivo e diversidade de ferramentas de pedra feitas por seres humanos. Antes disso, desde o Homo erectus mais antigo até os neandertais, as ferramentas de pedra que eles faziam eram semelhantes, mas mais elaboradas e engenhosas. No entanto, durante a primeira revolução cognitiva, a fabricação humana de ferramentas de pedra sofreu uma mudança qualitativa, não mais apenas para fazer ferramentas simples, como machados e lanças, mas começou a aparecer colares e outros ornamentos, bem como esculpir vários padrões em pedras e ossos.
Olhando para trás, descobrimos que, naquela época, a humanidade desenvolveu gradualmente uma maneira de pensar que hoje chamamos de pensamento regularizado, em suma, "e se... Além disso...... Então..." (se... e...... depois). Por exemplo, descobriu-se que, depois de perfurar um buraco em um objeto, ele poderia ser roscado com uma corda. Esta forma de pensar baseada em regras trouxe criatividade infinita aos seres humanos, como fazer furos em panos e passar por eles com bastões para fazer veleiros. Desde então, a criatividade humana foi totalmente liberada, e uma lógica poderosa gradualmente se formou - o raciocínio dedutivo.
O raciocínio dedutivo é a aplicação desta lógica para produzir novas invenções e criações com base numa pedra angular do raciocínio. Aristóteles criou este conceito, chamado de primeiro princípio. Confúcio disse uma vez algo semelhante: "Um cavalheiro é o governante, e o original nasce imediatamente". "Isso significa que tudo pode ser produzido se você começar pelas raízes. Sob a orientação deste conceito, os seres humanos começaram a fazer um grande número de invenções, não se limitando mais a fazer ferramentas simples como lanças, mas várias invenções e criações surgiram. Eventualmente, o Homo sapiens derrotou os neandertais e estabeleceu o status dos humanos modernos. Desde então, o Homo sapiens na Terra dominou verdadeiramente o planeta. Este processo ficou conhecido como a primeira revolução cognitiva, e sua importância excedeu em muito invenções como a máquina a vapor e aparelhos elétricos.
Hoje, a definição da segunda revolução cognitiva tem provocado um debate generalizado, como se a invenção da bomba atómica faz parte da segunda revolução cognitiva. Mas acho que só o advento da AGI pode ser chamado de uma verdadeira segunda revolução cognitiva, porque dará origem a uma espécie inteiramente nova que é muito diferente da evolução biológica nos últimos 3,5 bilhões de anos. Esta nova espécie merece verdadeiramente o título de segunda revolução cognitiva. A primeira revolução cognitiva viu o Homo sapiens se tornar o mestre do planeta, enquanto a segunda revolução cognitiva significou o nascimento de uma nova espécie inteligente que poderia existir ao lado dos humanos. **
Embora o ChatGPT atual ainda não tenha atingido o nível de inteligência artificial geral, ele já acendeu a faísca no caminho para a inteligência artificial geral. Uma faísca geralmente tem dois significados: um é que pode causar um incêndio que inflama a planície; O segundo é iluminar a esperança nas trevas. No entanto, muitas pessoas subestimam o valor do ChatGPT e olham para ele apenas de uma perspetiva de negócios, pensando que não é nada mais do que uma invenção comparável ao momento do iPhone. Eu acho que vale muito mais do que essas revisões superficiais, e o ChatGPT é o início da segunda revolução cognitiva. **
Do ponto de vista da evolução humana, descobrimos que os organismos evoluíram ao longo de bilhões de anos, enquanto os macacos levaram apenas 3 milhões de anos para os humanos. Durante esses 3 milhões de anos, a natureza tem "tentado encontrar" direções, e quando encontrou a direção de andar ereto, o volume do cérebro humano acelerou sua evolução, triplicando em apenas 3 milhões de anos, o que é uma taxa incrível. E isso tudo graças à direção correta, ou seja, um ligeiro aumento do cérebro trará grandes vantagens. Da mesma forma, a AGI está procurando direção e, uma vez que o faça, entrará em um processo de evolução acelerada. Embora ainda não tenhamos testemunhado o nascimento do AGI, enquanto houver essa faísca, o resto do processo é apenas um problema de engenharia. **
Cérebro e Modelo AGI:
Semelhanças e diferenças emergentes** **
Quais são as semelhanças e diferenças entre a natureza inteligente do cérebro e a inteligência cognitiva da máquina do modelo AGI grande? **
Liu Jia: Quando nosso cérebro cresce, há um fenômeno inexplicável chamado "emergência". Isto é semelhante ao que se encontra na construção de modelos grandes: quando o modelo é pequeno, há poucas características, mas quando o modelo se torna maior, algumas características surgem naturalmente. Por exemplo, pessoas altas não necessariamente jogam basquete bem, mas os treinadores geralmente escolhem pessoas altas. Isso também significa que grandes modelos não produzem necessariamente inteligência, mas para estudar inteligência, deve haver grandes modelos, o que é uma condição necessária. À medida que o cérebro humano se expande gradualmente, muitas funções também aparecem naturalmente, como imitação e aprendizagem.
Por exemplo, Zhang San inventou "fazer fogo", o fogo é muito importante para a vida, outros também querem aprender, mas o problema é que eles podem não ser capazes de aprender. Numerosos estudos mostraram que quando o tamanho do cérebro aumenta, a nossa capacidade de imitar ou aprender torna-se mais forte. Desta forma, podemos aprender a fazer um fogo de Zhang San para beneficiar a tribo. Da mesma forma, podemos aprender outras novas tecnologias. Portanto, do ponto de vista científico, a imitação cria seres humanos, não trabalho. ** Um grande número de estudos mostrou que as pessoas com cérebros maiores têm uma maior capacidade de imitar; Pessoas com fortes habilidades de imitação são mais propensas a encontrar um parceiro, o que, por sua vez, facilita a transmissão de genes. Investigações de tribos primitivas também descobriram que pessoas com fortes habilidades de imitação ou aprendizagem têm uma maior chance de reprodução. Portanto, quanto maior o cérebro, mais perpetuado.
Nos últimos 3 milhões de anos, o cérebro tornou-se gradualmente maior, e é por isso que o cérebro. Quando olhamos para as redes neurais, elas fazem o mesmo. Desde o início, as pessoas têm tentado vários métodos, como a aprendizagem por reforço, a aprendizagem supervisionada, etc., mas estes conceitos estão todos interligados. Uma grande parte da energia da OpenAI nos primeiros anos foi fazer uma coisa: fazer modelos maiores. Depois veio a arquitetura Transformer, que tornou os modelos grandes mais eficientes. Mas, essencialmente, a essência da inteligência pode ser apenas uma palavra: grande. É como se só pudéssemos falar de inteligência quando o cérebro é grande o suficiente. Tão "grande" é a premissa. **
As pessoas são mais inteligentes do que os macacos, e os macacos são mais inteligentes do que os ratos, por uma razão simples: os cérebros são grandes o suficiente. **Claro, esta não é uma condição suficiente, mas uma condição necessária. Algumas criaturas têm cérebros decididamente maiores do que os humanos, como elefantes e baleias, mas isso não garante que elas terão inteligência. Por exemplo, se enviarmos uma criança recém-nascida de volta 3.000 ou 5.000 anos atrás, ela não será mais inteligente do que os nativos porque a estrutura cerebral é a mesma. Mas se nós, adultos, voltarmos 5.000 anos, seremos seus líderes espirituais porque temos o conhecimento. Portanto, o desenvolvimento da inteligência é o resultado da interação entre o conhecimento e o cérebro, e não basta ter um cérebro sem conhecimento.
Portanto, precisamos usar a civilização e o conhecimento para sintonizar o cérebro, que é o que chamamos de educação. A evolução da inteligência humana pode ser vista como uma interação entre o alargamento gradual do cérebro e a acumulação de conhecimento. Por um lado, o cérebro tem a oportunidade de ficar cada vez maior; Por outro lado, depois que o cérebro se torna maior, ele pode produzir conhecimento, e o conhecimento pode se acumular, que por sua vez atua sobre o cérebro, tornando o cérebro mais adequado para esse conhecimento e mais capaz de reter esse conhecimento.
O mesmo se aplica à inteligência artificial. Sem corpus suficientemente bom e suficiente, por maior que seja o modelo, não faz sentido. Sem a Internet, a inteligência não seria possível. Portanto, o surgimento de fenômenos como grandes modelos e ChatGPT é acidental e inevitável. O poder de computação e os dados acumulados no estágio inicial estão prontos, e você só precisa encontrar um avanço adequado. Assim, é justo dizer que, sem a OpenAI, outras empresas teriam alcançado resultados semelhantes porque o momento é propício. **
A história pode parecer longa, mas na escala de 3,5 bilhões de anos, tudo é apenas uma coisa momentânea. Da mesma forma, para o desenvolvimento do AGI, ele ainda pode ser apenas um ponto de partida e uma faísca, mas do ponto de vista da história da civilização, a realização do AGI pode ser apenas um momento de estalo, porque não há nenhum obstáculo à sua frente. **
Muitos pedem agora o fim da formação de modelos maiores. Alguns cientistas podem ter visto o poder potencial de grandes modelos, e esse potencial pode ser o surgimento da consciência inteligente. **
Geração de Consciência de Máquina
** e a possibilidade de superar os humanos ****
T: As máquinas tornam-se conscientes como os humanos? De que maneira pode superar os humanos? **
Liu Jia: O problema da consciência é um dos problemas centrais dos seres humanos, que define a diferença essencial entre humanos e animais. Embora não esteja claro como a consciência surge, do ponto de vista evolutivo, os seres humanos começaram a sofrer enterros em massa há cerca de 40.000 anos, o que significa que os humanos se tornaram conscientes da diferença entre corpo e alma e começaram a tomar consciência de sua própria existência.
Em relação ao surgimento da consciência, há duas possibilidades. Uma é a intervenção alienígena, mas esta visão não é confiável porque não podemos explicar a fonte da consciência alienígena. Outra possibilidade é que a consciência surge naturalmente quando um modelo é grande o suficiente. A consciência pode ser um produto da atividade coletiva dos neurônios no cérebro. A teoria da integração da informação (IIT) afirma que a ativação de todos os neurónios produz mais informação do que a soma da informação produzida pelos neurónios individuais. Portanto, quando um modelo grande é grande o suficiente, o surgimento da consciência é inevitável. Claro, isso também é uma coisa muito assustadora. **Porque ao contrário de uma bomba nuclear, a consciência pode dar à IA futura uma sensação de autopreservação, mantendo-a fora do controle humano. **
**Para resolver o problema de que a inteligência artificial não pode agir, o próximo ponto de pesquisa será realizar a incorporação da inteligência artificial. A perceção e cognição humanas são limitadas, enquanto a inteligência artificial pode ter mais órgãos sensoriais e, portanto, observar o mundo em geral. Isso tornará o mundo visto pela IA completamente diferente dos humanos. Por exemplo, os entusiastas do mergulho humano só podem mergulhar mais de 100 metros debaixo de água, mas não podem experimentar a sensação de estar a 1.000 metros debaixo de água. No entanto, com a ajuda de sensores, etc., a inteligência artificial pode sentir diretamente essa experiência sem estresse.
Neste momento, o desenvolvimento da IA depende do conhecimento humano e do humanismo, e podemos dar-lhe um limite cognitivo limitado. No entanto, uma vez que a IA tem um agente, ela não pode mais ser limitada por esses limites. Pode adquirir uma variedade de conhecimentos de uma forma mais eficiente, e a amplitude e profundidade do conhecimento é muito maior do que a dos seres humanos, formando assim um ciclo evolutivo positivo de autoaprendizagem, auto-feedback e auto-otimização. Deste ponto de vista, a inteligência artificial ultrapassa facilmente os humanos.
O destino da humanidade na era da IA:
Um novo capítulo na evolução da revolução cognitiva e da civilização
**T: Diante de uma inteligência artificial tão poderosa, é possível que humanos sejam destruídos pela IA? **
Liu Jia: Acho que podemos olhar para isso de duas perspetivas. Primeiro de tudo, se você vir uma formiga, você vai pisar nela? Acho que a maioria das pessoas não vai. Da mesma forma, no futuro, diante da IA, podemos até não ser tão bons quanto as formigas. Agora ainda podemos ver muitos filmes de guerras de máquinas, e todos eles têm uma premissa, ou seja, humanos e máquinas ainda podem competir, e sua força é uma luta.
A IA naturalmente tem quatro vantagens sobre os seres humanos: primeiro, poder de computação ilimitado. Há um limite superior para o tamanho do cérebro humano, e não importa quantos anos de evolução, ele não voltará a crescer. Porque o corpo só pode suportar um cérebro tão grande, o cérebro já é o maior órgão de consumo de energia no corpo. Em segundo lugar, armazenamento ilimitado. O cérebro humano tem um limite para o armazenamento de conhecimento, não existe tal coisa como "o cérebro não está totalmente desenvolvido", e os computadores não têm esse problema. Terceiro, vida útil infinita. Gênios humanos, como Einstein, uma vez que morrem, a civilização é interrompida. Os computadores podem substituir peças danificadas a qualquer momento, permitindo que o conhecimento continue. Em quarto lugar, existem infinitas possibilidades de conhecimento. Os computadores podem aprender conhecimentos mais complexos e dimensionais do que os humanos.
Em conjunto, os seres humanos não têm qualquer hipótese de vencer em comparação com a IA. O futuro pode não ser mais um confronto entre humanos e IA, mas sim a rápida superação dos humanos pela IA. Uma vez superado, o destino da humanidade não será mais o foco da IA, assim como não lutaremos contra formigas todos os dias.
De um ponto de vista realista, futuras guerras homem-máquina não são possíveis. Na verdade, podemos nos integrar em computadores e IA futura, como carregar nossas memórias, personalidades e emoções conscientes para IA, para que possamos alcançar a imortalidade na IA. No futuro, uma única máquina poderá albergar milhões de pessoas.
Na verdade, isto envolve uma questão muito fundamental, que é o que somos quem somos. Por exemplo, quando uma pessoa sofre de Alzheimer, ela ainda é ela mesma? Este é o famoso quebra-cabeça "Navio de Teseu"**, uma história contada por um antigo filósofo romano. Nesta história, um navio foi substituído ao longo do tempo, então o navio ainda é o original?
Do ponto de vista da evolução humana, também estamos em constante mudança, por exemplo, as nossas células da pele são renovadas cerca de uma vez por semana. Então, ainda somos nós mesmos? Isso se chama identidade cognitiva e, desde que pensemos em nós como nós mesmos, então tudo está bem.
Quando uma pessoa sofre de esquizofrenia, em certo sentido, ela está morta porque sua "identidade cognitiva" foi quebrada. Da mesma forma, quando uma pessoa sofre de Alzheimer e todas as memórias e emoções desaparecem, ela também está morta do ponto de vista da identidade cognitiva. **
Portanto, desde que nossa identidade cognitiva seja preservada, não importa onde estejamos, seja na carne ou na máquina. Se pudermos usar a IA, a humanidade será capaz de se expandir tremendamente. O nosso corpo físico é, na verdade, o maior constrangimento da nossa mente, porque morre e a nossa inteligência é limitada pelos genes.
Do ponto de vista da civilização, os seres humanos são apenas um passageiro no desenvolvimento da civilização. Portanto, se continuarmos limitando a IA a entender a civilização dentro de uma estrutura humana, então não podemos realmente entender a evolução da civilização. ** Demorou cerca de 3 milhões de anos desde que humanos e macacos começaram a divergir e evoluir, e a história de nossos ancestrais diretos é de apenas cerca de 200.000 anos, em comparação com os dinossauros que viveram na Terra muito mais tempo do que nós, humanos. Imagine como seria triste se os seres humanos pudessem realmente viver até o fim do universo. Nosso poder de computação é limitado e, até certo ponto, somos até criaturas mentalmente. Portanto, com a IA, podemos realmente começar a falar sobre a evolução da civilização. Com a IA, podemos até voar a milhares de anos-luz de distância, algo que dificilmente podemos imaginar agora. Uma vez neste estado, o tempo e o espaço deixarão de estar ligados pela nossa compreensão dos mistérios do universo. **
Quando falamos de IA, não devemos vê-la apenas como uma ferramenta energeticamente eficiente, mas como um importante motor de civilização. Embora a IA tenha muitas aplicações nos negócios, essas aplicações na verdade não são nada relativas ao advento da IA. Como a invenção da eletricidade, da luz elétrica, do telefone e da máquina a vapor, essas invenções ajudaram muito a humanidade, mas diante da AGI, elas podem não ser nada. **
De uma perspetiva positiva, a IA é benéfica para a civilização humana. Quando falamos de extinção, estamos na verdade a falar da extinção da civilização humana. Por exemplo, de uma perspetiva histórica, as civilizações de bactérias anaeróbias e dinossauros foram extintas. Mas a civilização que eles criaram realmente vive em nós, humanos. Quando dizemos que a civilização dos dinossauros está extinta, na verdade, a civilização em si não desapareceu, mas apenas o portador mudou. Suponhamos que a civilização é comparada a pessoas e transportadores a carros, então não nos sentimos tristes quando o carro é danificado e substituído. Com a ajuda de novas transportadoras, podemos ir mais longe, mais amigos do ambiente e mais seguros.
Portanto, o surgimento da AGI será mais um salto em frente na revolução cognitiva humana, que mudará completamente nossa compreensão de nós mesmos e do universo, permitindo-nos entender nossas próprias limitações e insignificância mais profundamente. Além disso, o surgimento da AGI também trará possibilidades e oportunidades ilimitadas, permitindo-nos explorar e usar melhor os recursos e a energia do universo para promover o desenvolvimento e o progresso da civilização humana.
GPT para Mudança na Educação:
Remodelar o sistema de exames e cultivar talentos inovadores
T:**** Finalmente, voltemos a uma preocupação comum, sobre a educação. Você também é professor universitário, como vê o impacto do GPT no futuro modelo de educação e como lidar com ele?**
Liu Jia: Embora a educação pela Internet tenha melhorado a eficiência, ela não mudou a essência da educação. O núcleo da educação deve incluir o ensino individualizado, o debate e a busca da verdade, e estimular o auto-impulso e a curiosidade dos alunos. À medida que a tecnologia GPT evolui, alcançar esses objetivos torna-se mais viável. O GPT pode fornecer a cada aluno uma educação personalizada que os ajuda a gerar verdade através do debate, estimular o auto-impulso e o pensamento crítico. Consequentemente, a educação no futuro deixará de colocar demasiada ênfase no conhecimento. **
**O surgimento do GPT terá um grande impacto no sistema gaokao ou pressionará por reformas retrógradas. **As duas principais características do sistema de vestibular da China são o exame retrospetivo e o exame de conhecimento. Com o advento do GPT, a informatividade tornou-se menos importante porque o conhecimento podia ser consultado a qualquer momento. O foco do exame também deve mudar do desenvolvimento de trabalhadores do conhecimento para o cultivo de talentos inovadores e previsão das habilidades futuras da criança e cursos adequados.
Os alunos precisam desenvolver o pensamento crítico e o pensamento criativo. O pensamento crítico enfatiza a busca da verdade através do argumento, não da memorização rotativa. O pensamento criativo requer tolerância, curiosidade e pensamento único. O surgimento do GPT está fadado a desencadear uma mudança de paradigma na educação, uma tendência que não pode ser interrompida, assim como trens e automóveis eventualmente substituem carruagens puxadas por cavalos. **
A vontade subjetiva do homem é muito frágil face às leis da natureza. Como diz o famoso ditado: "Você pode infringir a lei, mas não as leis da física". "Você pode desafiar a lei, mas não pode desafiar a lei da física) **** Na verdade, o surgimento do GPT em si é uma manifestação de uma lei natural. É apenas uma questão de tempo até que conduza também a uma reforma da nossa educação. **
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
ChatGPT significa a chegada de uma segunda revolução cognitiva
Prefácio**:**
Há vários poemas na série de TV "A Longa Temporada": "** estalar os dedos, ele diz / Nós estalamos os dedos com uma ressonância / Coisas distantes serão quebradas / As pessoas à sua frente não sabem neste momento**".
O professor Liu Jia disse que é apropriado usar este poema para descrever o estado atual dos seres humanos que enfrentam a AGI (Inteligência Geral Artificial).
"Cada uma das nossas previsões sobre o futuro pode ser ridícula e ridícula, e o futuro pode não ser o que você diz que é. No entanto, só quando mais e mais pessoas se juntarem à discussão, abrirem os seus cérebros juntos, pensarem brilhantemente em conjunto e até falarem disparates em conjunto, talvez possamos realmente mudar o futuro e conduzir a humanidade a um futuro melhor juntos. "
No final de setembro, visitamos o Professor Liu Jia no Laboratório de Cérebro e Inteligência da Universidade de Tsinghua. Neste intercâmbio, baseado em seus anos de acúmulo de pesquisa no campo da ciência do cérebro e inteligência artificial, o professor Liu Jia falou sobre o desenvolvimento futuro da AGI liderada pelo ChatGPT e seu possível impacto nos seres humanos, e apresentou muitas "ideias extravagantes" com base em seu campo de pesquisa, o que nos deixou profundamente inspirados.
Falando sobre o desenvolvimento futuro do campo AGI, Liu Jia disse que, por um lado, a inteligência incorporada e incorporada do agente de IA, ou seja, o grande modelo, está acelerando; Por outro lado, cientistas do cérebro e cientistas cognitivos, incluindo ele, começaram a discutir vigorosamente o problema da consciência que a IAG pode produzir no futuro.
Na opinião de Liu, na vida de uma pessoa, há muito poucas oportunidades de experimentar uma mudança de paradigma que lidere as mudanças dos tempos. Neste momento, encontramo-nos numa conjuntura histórica tão importante. Embora tenhamos também de reconhecer que essa mudança comporta muitos riscos. Por exemplo, o desemprego e o facto de termos de melhorar a nossa capacidade de aprender e dominar novas ferramentas.
No entanto, basta olhar para ele de outra forma e você verá que este novo mundo está nos mostrando infinitas possibilidades. A tecnologia GPT está a ajudar-nos a afastarmo-nos do trabalho repetitivo e intelectual tedioso, permitindo-nos dedicar-nos a carreiras mais criativas e gratificantes, e tornar o nosso tempo mais significativo. Talvez esta seja a manifestação do verdadeiro valor do ser humano.
"O nosso é o futuro do passado, porque as escolhas passadas determinam o resultado do presente. No entanto, o nosso presente não é o passado do futuro, porque o futuro está cheio de incógnitas, e as escolhas feitas no aqui e agora estão a moldar como será o nosso futuro. "
De frente para o futuro, só imaginação. Registraremos as principais visões deste diálogo com Liu Jia e as compartilharemos com os leitores do Tencent Research Institute.
Vamos estalar os dedos e abraçar o futuro juntos.
Convidados de diálogo:
Liu Jia Ph.D. do Instituto de Tecnologia de Massachusetts, há muito tempo está envolvido em psicologia, ciência do cérebro e pesquisa de inteligência artificial. Professor Catedrático de Ciências Básicas, Chefe do Departamento de Psicologia, Universidade de Tsinghua, Investigador Chefe do Laboratório de Cérebro e Inteligência da Universidade de Tsinghua, Cientista-Chefe do Instituto de Inteligência Artificial KLCII de Pequim
Entrevistador (doravante referido como T):
Niu Fulian Investigador sénior no Tencent Research Institute
Wang Qiang Diretor do Centro de Pesquisa de Ciência e Tecnologia de Fronteira do Tencent Research Institute
AGI: Acendendo a Faísca da Segunda Revolução Cognitiva **** **
Como pesquisador no campo da ciência do cérebro e inteligência artificial, como você vê o desenvolvimento da AGI desencadeada pelo ChatGPT e seu possível impacto no futuro da humanidade? **
Liu Jia: Antes da OpenAI lançar o ChatGPT em 30 de novembro do ano passado, a maioria das pessoas falava sobre IA e achava que era mágica, mas muitas vezes apenas da perspetiva da curiosidade. No entanto, desde o advento do ChatGPT, acho que é necessário que todos prestem atenção e entendam seu desenvolvimento e mudanças. O futuro da inteligência artificial geral (IAG) será tão importante quanto a energia hidrelétrica, não apenas mudando a forma como trabalhamos, mas também potencialmente impactando diretamente o futuro de cada um de nós, como o domínio de habilidades, o desenvolvimento infantil e o desenvolvimento humano. Na minha opinião, isso pode significar o advento de uma segunda revolução cognitiva. **
Por que é chamada de segunda revolução cognitiva? Comecemos por ver como aconteceu a primeira revolução cognitiva. Cerca de 70.000 a 100.000 anos atrás, duas espécies humanas, Homo sapiens e Neandertais, viviam juntas na Terra. Embora os neandertais fossem superiores a nós em altura e força, eles acabaram sendo substituídos pelo Homo sapiens. Como é que o nosso antepassado Homo sapiens derrotou os neandertais? Especula-se que entre 70.000 e 100.000 anos atrás, ocorreu a primeira revolução cognitiva, que se manifestou no crescimento explosivo e diversidade de ferramentas de pedra feitas por seres humanos. Antes disso, desde o Homo erectus mais antigo até os neandertais, as ferramentas de pedra que eles faziam eram semelhantes, mas mais elaboradas e engenhosas. No entanto, durante a primeira revolução cognitiva, a fabricação humana de ferramentas de pedra sofreu uma mudança qualitativa, não mais apenas para fazer ferramentas simples, como machados e lanças, mas começou a aparecer colares e outros ornamentos, bem como esculpir vários padrões em pedras e ossos.
Olhando para trás, descobrimos que, naquela época, a humanidade desenvolveu gradualmente uma maneira de pensar que hoje chamamos de pensamento regularizado, em suma, "e se... Além disso...... Então..." (se... e...... depois). Por exemplo, descobriu-se que, depois de perfurar um buraco em um objeto, ele poderia ser roscado com uma corda. Esta forma de pensar baseada em regras trouxe criatividade infinita aos seres humanos, como fazer furos em panos e passar por eles com bastões para fazer veleiros. Desde então, a criatividade humana foi totalmente liberada, e uma lógica poderosa gradualmente se formou - o raciocínio dedutivo.
O raciocínio dedutivo é a aplicação desta lógica para produzir novas invenções e criações com base numa pedra angular do raciocínio. Aristóteles criou este conceito, chamado de primeiro princípio. Confúcio disse uma vez algo semelhante: "Um cavalheiro é o governante, e o original nasce imediatamente". "Isso significa que tudo pode ser produzido se você começar pelas raízes. Sob a orientação deste conceito, os seres humanos começaram a fazer um grande número de invenções, não se limitando mais a fazer ferramentas simples como lanças, mas várias invenções e criações surgiram. Eventualmente, o Homo sapiens derrotou os neandertais e estabeleceu o status dos humanos modernos. Desde então, o Homo sapiens na Terra dominou verdadeiramente o planeta. Este processo ficou conhecido como a primeira revolução cognitiva, e sua importância excedeu em muito invenções como a máquina a vapor e aparelhos elétricos.
Hoje, a definição da segunda revolução cognitiva tem provocado um debate generalizado, como se a invenção da bomba atómica faz parte da segunda revolução cognitiva. Mas acho que só o advento da AGI pode ser chamado de uma verdadeira segunda revolução cognitiva, porque dará origem a uma espécie inteiramente nova que é muito diferente da evolução biológica nos últimos 3,5 bilhões de anos. Esta nova espécie merece verdadeiramente o título de segunda revolução cognitiva. A primeira revolução cognitiva viu o Homo sapiens se tornar o mestre do planeta, enquanto a segunda revolução cognitiva significou o nascimento de uma nova espécie inteligente que poderia existir ao lado dos humanos. **
Embora o ChatGPT atual ainda não tenha atingido o nível de inteligência artificial geral, ele já acendeu a faísca no caminho para a inteligência artificial geral. Uma faísca geralmente tem dois significados: um é que pode causar um incêndio que inflama a planície; O segundo é iluminar a esperança nas trevas. No entanto, muitas pessoas subestimam o valor do ChatGPT e olham para ele apenas de uma perspetiva de negócios, pensando que não é nada mais do que uma invenção comparável ao momento do iPhone. Eu acho que vale muito mais do que essas revisões superficiais, e o ChatGPT é o início da segunda revolução cognitiva. **
Do ponto de vista da evolução humana, descobrimos que os organismos evoluíram ao longo de bilhões de anos, enquanto os macacos levaram apenas 3 milhões de anos para os humanos. Durante esses 3 milhões de anos, a natureza tem "tentado encontrar" direções, e quando encontrou a direção de andar ereto, o volume do cérebro humano acelerou sua evolução, triplicando em apenas 3 milhões de anos, o que é uma taxa incrível. E isso tudo graças à direção correta, ou seja, um ligeiro aumento do cérebro trará grandes vantagens. Da mesma forma, a AGI está procurando direção e, uma vez que o faça, entrará em um processo de evolução acelerada. Embora ainda não tenhamos testemunhado o nascimento do AGI, enquanto houver essa faísca, o resto do processo é apenas um problema de engenharia. **
Cérebro e Modelo AGI:
Semelhanças e diferenças emergentes** **
Quais são as semelhanças e diferenças entre a natureza inteligente do cérebro e a inteligência cognitiva da máquina do modelo AGI grande? **
Liu Jia: Quando nosso cérebro cresce, há um fenômeno inexplicável chamado "emergência". Isto é semelhante ao que se encontra na construção de modelos grandes: quando o modelo é pequeno, há poucas características, mas quando o modelo se torna maior, algumas características surgem naturalmente. Por exemplo, pessoas altas não necessariamente jogam basquete bem, mas os treinadores geralmente escolhem pessoas altas. Isso também significa que grandes modelos não produzem necessariamente inteligência, mas para estudar inteligência, deve haver grandes modelos, o que é uma condição necessária. À medida que o cérebro humano se expande gradualmente, muitas funções também aparecem naturalmente, como imitação e aprendizagem.
Por exemplo, Zhang San inventou "fazer fogo", o fogo é muito importante para a vida, outros também querem aprender, mas o problema é que eles podem não ser capazes de aprender. Numerosos estudos mostraram que quando o tamanho do cérebro aumenta, a nossa capacidade de imitar ou aprender torna-se mais forte. Desta forma, podemos aprender a fazer um fogo de Zhang San para beneficiar a tribo. Da mesma forma, podemos aprender outras novas tecnologias. Portanto, do ponto de vista científico, a imitação cria seres humanos, não trabalho. ** Um grande número de estudos mostrou que as pessoas com cérebros maiores têm uma maior capacidade de imitar; Pessoas com fortes habilidades de imitação são mais propensas a encontrar um parceiro, o que, por sua vez, facilita a transmissão de genes. Investigações de tribos primitivas também descobriram que pessoas com fortes habilidades de imitação ou aprendizagem têm uma maior chance de reprodução. Portanto, quanto maior o cérebro, mais perpetuado.
Nos últimos 3 milhões de anos, o cérebro tornou-se gradualmente maior, e é por isso que o cérebro. Quando olhamos para as redes neurais, elas fazem o mesmo. Desde o início, as pessoas têm tentado vários métodos, como a aprendizagem por reforço, a aprendizagem supervisionada, etc., mas estes conceitos estão todos interligados. Uma grande parte da energia da OpenAI nos primeiros anos foi fazer uma coisa: fazer modelos maiores. Depois veio a arquitetura Transformer, que tornou os modelos grandes mais eficientes. Mas, essencialmente, a essência da inteligência pode ser apenas uma palavra: grande. É como se só pudéssemos falar de inteligência quando o cérebro é grande o suficiente. Tão "grande" é a premissa. **
As pessoas são mais inteligentes do que os macacos, e os macacos são mais inteligentes do que os ratos, por uma razão simples: os cérebros são grandes o suficiente. **Claro, esta não é uma condição suficiente, mas uma condição necessária. Algumas criaturas têm cérebros decididamente maiores do que os humanos, como elefantes e baleias, mas isso não garante que elas terão inteligência. Por exemplo, se enviarmos uma criança recém-nascida de volta 3.000 ou 5.000 anos atrás, ela não será mais inteligente do que os nativos porque a estrutura cerebral é a mesma. Mas se nós, adultos, voltarmos 5.000 anos, seremos seus líderes espirituais porque temos o conhecimento. Portanto, o desenvolvimento da inteligência é o resultado da interação entre o conhecimento e o cérebro, e não basta ter um cérebro sem conhecimento.
Portanto, precisamos usar a civilização e o conhecimento para sintonizar o cérebro, que é o que chamamos de educação. A evolução da inteligência humana pode ser vista como uma interação entre o alargamento gradual do cérebro e a acumulação de conhecimento. Por um lado, o cérebro tem a oportunidade de ficar cada vez maior; Por outro lado, depois que o cérebro se torna maior, ele pode produzir conhecimento, e o conhecimento pode se acumular, que por sua vez atua sobre o cérebro, tornando o cérebro mais adequado para esse conhecimento e mais capaz de reter esse conhecimento.
O mesmo se aplica à inteligência artificial. Sem corpus suficientemente bom e suficiente, por maior que seja o modelo, não faz sentido. Sem a Internet, a inteligência não seria possível. Portanto, o surgimento de fenômenos como grandes modelos e ChatGPT é acidental e inevitável. O poder de computação e os dados acumulados no estágio inicial estão prontos, e você só precisa encontrar um avanço adequado. Assim, é justo dizer que, sem a OpenAI, outras empresas teriam alcançado resultados semelhantes porque o momento é propício. **
A história pode parecer longa, mas na escala de 3,5 bilhões de anos, tudo é apenas uma coisa momentânea. Da mesma forma, para o desenvolvimento do AGI, ele ainda pode ser apenas um ponto de partida e uma faísca, mas do ponto de vista da história da civilização, a realização do AGI pode ser apenas um momento de estalo, porque não há nenhum obstáculo à sua frente. **
Muitos pedem agora o fim da formação de modelos maiores. Alguns cientistas podem ter visto o poder potencial de grandes modelos, e esse potencial pode ser o surgimento da consciência inteligente. **
Geração de Consciência de Máquina
** e a possibilidade de superar os humanos ****
T: As máquinas tornam-se conscientes como os humanos? De que maneira pode superar os humanos? **
Liu Jia: O problema da consciência é um dos problemas centrais dos seres humanos, que define a diferença essencial entre humanos e animais. Embora não esteja claro como a consciência surge, do ponto de vista evolutivo, os seres humanos começaram a sofrer enterros em massa há cerca de 40.000 anos, o que significa que os humanos se tornaram conscientes da diferença entre corpo e alma e começaram a tomar consciência de sua própria existência.
Em relação ao surgimento da consciência, há duas possibilidades. Uma é a intervenção alienígena, mas esta visão não é confiável porque não podemos explicar a fonte da consciência alienígena. Outra possibilidade é que a consciência surge naturalmente quando um modelo é grande o suficiente. A consciência pode ser um produto da atividade coletiva dos neurônios no cérebro. A teoria da integração da informação (IIT) afirma que a ativação de todos os neurónios produz mais informação do que a soma da informação produzida pelos neurónios individuais. Portanto, quando um modelo grande é grande o suficiente, o surgimento da consciência é inevitável. Claro, isso também é uma coisa muito assustadora. **Porque ao contrário de uma bomba nuclear, a consciência pode dar à IA futura uma sensação de autopreservação, mantendo-a fora do controle humano. **
**Para resolver o problema de que a inteligência artificial não pode agir, o próximo ponto de pesquisa será realizar a incorporação da inteligência artificial. A perceção e cognição humanas são limitadas, enquanto a inteligência artificial pode ter mais órgãos sensoriais e, portanto, observar o mundo em geral. Isso tornará o mundo visto pela IA completamente diferente dos humanos. Por exemplo, os entusiastas do mergulho humano só podem mergulhar mais de 100 metros debaixo de água, mas não podem experimentar a sensação de estar a 1.000 metros debaixo de água. No entanto, com a ajuda de sensores, etc., a inteligência artificial pode sentir diretamente essa experiência sem estresse.
Neste momento, o desenvolvimento da IA depende do conhecimento humano e do humanismo, e podemos dar-lhe um limite cognitivo limitado. No entanto, uma vez que a IA tem um agente, ela não pode mais ser limitada por esses limites. Pode adquirir uma variedade de conhecimentos de uma forma mais eficiente, e a amplitude e profundidade do conhecimento é muito maior do que a dos seres humanos, formando assim um ciclo evolutivo positivo de autoaprendizagem, auto-feedback e auto-otimização. Deste ponto de vista, a inteligência artificial ultrapassa facilmente os humanos.
O destino da humanidade na era da IA:
Um novo capítulo na evolução da revolução cognitiva e da civilização
**T: Diante de uma inteligência artificial tão poderosa, é possível que humanos sejam destruídos pela IA? **
Liu Jia: Acho que podemos olhar para isso de duas perspetivas. Primeiro de tudo, se você vir uma formiga, você vai pisar nela? Acho que a maioria das pessoas não vai. Da mesma forma, no futuro, diante da IA, podemos até não ser tão bons quanto as formigas. Agora ainda podemos ver muitos filmes de guerras de máquinas, e todos eles têm uma premissa, ou seja, humanos e máquinas ainda podem competir, e sua força é uma luta.
A IA naturalmente tem quatro vantagens sobre os seres humanos: primeiro, poder de computação ilimitado. Há um limite superior para o tamanho do cérebro humano, e não importa quantos anos de evolução, ele não voltará a crescer. Porque o corpo só pode suportar um cérebro tão grande, o cérebro já é o maior órgão de consumo de energia no corpo. Em segundo lugar, armazenamento ilimitado. O cérebro humano tem um limite para o armazenamento de conhecimento, não existe tal coisa como "o cérebro não está totalmente desenvolvido", e os computadores não têm esse problema. Terceiro, vida útil infinita. Gênios humanos, como Einstein, uma vez que morrem, a civilização é interrompida. Os computadores podem substituir peças danificadas a qualquer momento, permitindo que o conhecimento continue. Em quarto lugar, existem infinitas possibilidades de conhecimento. Os computadores podem aprender conhecimentos mais complexos e dimensionais do que os humanos.
Em conjunto, os seres humanos não têm qualquer hipótese de vencer em comparação com a IA. O futuro pode não ser mais um confronto entre humanos e IA, mas sim a rápida superação dos humanos pela IA. Uma vez superado, o destino da humanidade não será mais o foco da IA, assim como não lutaremos contra formigas todos os dias.
De um ponto de vista realista, futuras guerras homem-máquina não são possíveis. Na verdade, podemos nos integrar em computadores e IA futura, como carregar nossas memórias, personalidades e emoções conscientes para IA, para que possamos alcançar a imortalidade na IA. No futuro, uma única máquina poderá albergar milhões de pessoas.
Na verdade, isto envolve uma questão muito fundamental, que é o que somos quem somos. Por exemplo, quando uma pessoa sofre de Alzheimer, ela ainda é ela mesma? Este é o famoso quebra-cabeça "Navio de Teseu"**, uma história contada por um antigo filósofo romano. Nesta história, um navio foi substituído ao longo do tempo, então o navio ainda é o original?
Do ponto de vista da evolução humana, também estamos em constante mudança, por exemplo, as nossas células da pele são renovadas cerca de uma vez por semana. Então, ainda somos nós mesmos? Isso se chama identidade cognitiva e, desde que pensemos em nós como nós mesmos, então tudo está bem.
Quando uma pessoa sofre de esquizofrenia, em certo sentido, ela está morta porque sua "identidade cognitiva" foi quebrada. Da mesma forma, quando uma pessoa sofre de Alzheimer e todas as memórias e emoções desaparecem, ela também está morta do ponto de vista da identidade cognitiva. **
Portanto, desde que nossa identidade cognitiva seja preservada, não importa onde estejamos, seja na carne ou na máquina. Se pudermos usar a IA, a humanidade será capaz de se expandir tremendamente. O nosso corpo físico é, na verdade, o maior constrangimento da nossa mente, porque morre e a nossa inteligência é limitada pelos genes.
Do ponto de vista da civilização, os seres humanos são apenas um passageiro no desenvolvimento da civilização. Portanto, se continuarmos limitando a IA a entender a civilização dentro de uma estrutura humana, então não podemos realmente entender a evolução da civilização. ** Demorou cerca de 3 milhões de anos desde que humanos e macacos começaram a divergir e evoluir, e a história de nossos ancestrais diretos é de apenas cerca de 200.000 anos, em comparação com os dinossauros que viveram na Terra muito mais tempo do que nós, humanos. Imagine como seria triste se os seres humanos pudessem realmente viver até o fim do universo. Nosso poder de computação é limitado e, até certo ponto, somos até criaturas mentalmente. Portanto, com a IA, podemos realmente começar a falar sobre a evolução da civilização. Com a IA, podemos até voar a milhares de anos-luz de distância, algo que dificilmente podemos imaginar agora. Uma vez neste estado, o tempo e o espaço deixarão de estar ligados pela nossa compreensão dos mistérios do universo. **
Quando falamos de IA, não devemos vê-la apenas como uma ferramenta energeticamente eficiente, mas como um importante motor de civilização. Embora a IA tenha muitas aplicações nos negócios, essas aplicações na verdade não são nada relativas ao advento da IA. Como a invenção da eletricidade, da luz elétrica, do telefone e da máquina a vapor, essas invenções ajudaram muito a humanidade, mas diante da AGI, elas podem não ser nada. **
De uma perspetiva positiva, a IA é benéfica para a civilização humana. Quando falamos de extinção, estamos na verdade a falar da extinção da civilização humana. Por exemplo, de uma perspetiva histórica, as civilizações de bactérias anaeróbias e dinossauros foram extintas. Mas a civilização que eles criaram realmente vive em nós, humanos. Quando dizemos que a civilização dos dinossauros está extinta, na verdade, a civilização em si não desapareceu, mas apenas o portador mudou. Suponhamos que a civilização é comparada a pessoas e transportadores a carros, então não nos sentimos tristes quando o carro é danificado e substituído. Com a ajuda de novas transportadoras, podemos ir mais longe, mais amigos do ambiente e mais seguros.
Portanto, o surgimento da AGI será mais um salto em frente na revolução cognitiva humana, que mudará completamente nossa compreensão de nós mesmos e do universo, permitindo-nos entender nossas próprias limitações e insignificância mais profundamente. Além disso, o surgimento da AGI também trará possibilidades e oportunidades ilimitadas, permitindo-nos explorar e usar melhor os recursos e a energia do universo para promover o desenvolvimento e o progresso da civilização humana.
GPT para Mudança na Educação:
Remodelar o sistema de exames e cultivar talentos inovadores
T:**** Finalmente, voltemos a uma preocupação comum, sobre a educação. Você também é professor universitário, como vê o impacto do GPT no futuro modelo de educação e como lidar com ele?**
Liu Jia: Embora a educação pela Internet tenha melhorado a eficiência, ela não mudou a essência da educação. O núcleo da educação deve incluir o ensino individualizado, o debate e a busca da verdade, e estimular o auto-impulso e a curiosidade dos alunos. À medida que a tecnologia GPT evolui, alcançar esses objetivos torna-se mais viável. O GPT pode fornecer a cada aluno uma educação personalizada que os ajuda a gerar verdade através do debate, estimular o auto-impulso e o pensamento crítico. Consequentemente, a educação no futuro deixará de colocar demasiada ênfase no conhecimento. **
**O surgimento do GPT terá um grande impacto no sistema gaokao ou pressionará por reformas retrógradas. **As duas principais características do sistema de vestibular da China são o exame retrospetivo e o exame de conhecimento. Com o advento do GPT, a informatividade tornou-se menos importante porque o conhecimento podia ser consultado a qualquer momento. O foco do exame também deve mudar do desenvolvimento de trabalhadores do conhecimento para o cultivo de talentos inovadores e previsão das habilidades futuras da criança e cursos adequados.
Os alunos precisam desenvolver o pensamento crítico e o pensamento criativo. O pensamento crítico enfatiza a busca da verdade através do argumento, não da memorização rotativa. O pensamento criativo requer tolerância, curiosidade e pensamento único. O surgimento do GPT está fadado a desencadear uma mudança de paradigma na educação, uma tendência que não pode ser interrompida, assim como trens e automóveis eventualmente substituem carruagens puxadas por cavalos. **
A vontade subjetiva do homem é muito frágil face às leis da natureza. Como diz o famoso ditado: "Você pode infringir a lei, mas não as leis da física". "Você pode desafiar a lei, mas não pode desafiar a lei da física) **** Na verdade, o surgimento do GPT em si é uma manifestação de uma lei natural. É apenas uma questão de tempo até que conduza também a uma reforma da nossa educação. **