"A tecnologia é impulsionada por pessoas preguiçosas!"
Creio que toda a gente usou esta frase para arranjar desculpas para si próprios quando estão a "pescar" ou a "deitar-se".
Da revolução industrial da máquina a vapor à revolução digital do computador, o progresso da tecnologia tornou os seres humanos cada vez mais planos em alguns aspetos.
A tecnologia de IA, que tem o maior potencial para se tornar uma plataforma de próxima geração, tornará os humanos "mais preguiçosos"?
Parece que sim, mas não é uma boa notícia.
De acordo com um novo estudo publicado na revista Frontiers in Robotics and Artificial Intelligence, os seres humanos são realmente "preguiçosos" quando trabalham com IA e máquinas.
De acordo com Cymek, principal autor do estudo, "o trabalho em equipe pode ser tanto uma bênção quanto uma maldição".
Então, na era da IA, a maior crise para a humanidade não é ser substituída por máquinas, mas ter "preguiça de degenerar"?
01 Assistente de máquina, deixe os humanos "baixarem a guarda"
Quando há um ajudante tão poderoso como uma máquina, isso fará com que os seres humanos se tornem mais "de coração grande".
Pesquisadores da Universidade Técnica de Berlim, na Alemanha, forneceram a 42 participantes imagens borradas de placas de circuito e pediram que verificassem se havia defeitos. Metade dos participantes foi informada de que a placa de circuito com a qual estavam lidando havia sido inspecionada por um robô chamado "Panda" e que defeitos haviam sido sinalizados.
Experimento: Tarefa de Pesquisa Visual para Controle de Qualidade de Placas de Circuito Simuladas |
Na verdade, o robô "Panda" detetou 94,8% dos defeitos durante o experimento. Todos os participantes receberam as mesmas 320 imagens da placa de circuito digitalizada e, quando os pesquisadores analisaram mais de perto as taxas de erro dos participantes, descobriram que os participantes que trabalharam com o "panda" tinham menos defeitos mais tarde na tarefa porque tinham visto o "panda" marcar com sucesso muitos dos defeitos.
Ambos os grupos de participantes examinaram quase toda a superfície do quadro, gastaram tempo pesquisando e autoavaliaram que seu nível de esforço era maior. Como resultado, os participantes que trabalham com o robô encontraram uma média de 3,3 defeitos e aqueles que concluíram a tarefa sozinhos encontraram uma média de 4,23 defeitos.
Média e desvio padrão dos defeitos detetados pelos participantes em ambos os grupos |
"Isso sugere que os participantes podem estar menos atentos à inspeção da placa quando trabalham com seus amigos robôs", disse o estudo. Os participantes do nosso estudo parecem ter mantido seus esforços para inspecionar as placas de circuito, mas parece que a inspeção foi realizada com menos esforço mental e atenção às informações de amostragem."
Isto significa que, se lhes disserem que o robô já verificou uma peça e experimentaram a fiabilidade do robô, encontrarão menos defeitos. Inconscientemente, eles assumem que os "pandas" são menos propensos a perder defeitos, resultando em um efeito de "inércia social".
As implicações deste estudo são particularmente importantes para as indústrias que dependem de um rigoroso controle de qualidade. Os autores alertam que mesmo um curto período de relaxamento da atenção humana, possivelmente devido à dependência excessiva da precisão do robô, pode comprometer a segurança.
O pesquisador Onnasch menciona: "Em turnos mais longos, a perda de motivação tende a ser maior quando as tarefas se tornam rotineiras e o ambiente de trabalho fornece menos monitoramento de desempenho e feedback. É prevalente na indústria transformadora, especialmente em áreas relacionadas com a segurança, onde os controlos duplos são comuns, o que pode ter um impacto negativo nos resultados do trabalho."
É claro que existem algumas limitações para os testes do investigador. Por exemplo, a amostra não é suficientemente grande e é difícil simular a "inércia social" no laboratório porque os participantes sabem que estão a ser monitorizados. Cymek explica: "A principal restrição é o ambiente de laboratório. Para entender a magnitude do problema da perda de poder na interação homem-máquina, precisamos sair do laboratório e testar nossa hipótese em um ambiente de trabalho do mundo real com trabalhadores experientes, que muitas vezes trabalham com robôs."
02 A "Crise de Cooperação Homem-Máquina" Já Ocorreu
Na verdade, fora do laboratório, a "degradação" causada pela cooperação homem-máquina já apareceu no mundo real.
No campo da condução autónoma, existe um fenómeno semelhante à "inércia social", denominada "complacência da automação", que é tipicamente distraída pela presença de assistência automatizada.
Em março de 2018, no Arizona, EUA, um carro autônomo da Uber com um agente de segurança atropelou e matou um ciclista. A análise policial constatou que, se o agente de segurança estivesse olhando para a estrada, poderia ter parado 12,8 metros na frente da vítima e evitado a tragédia.
Mortes por condução autónoma em 2018 nos EUA |CNN
A Tesla é frequentemente alvo de meios de comunicação e reguladores nos Estados Unidos, muitas vezes devido a acidentes relacionados com a condução autónoma. Um cenário típico é um motorista de Tesla dormir enquanto usa um recurso de direção autônoma, ou jogar um jogo, e se envolver em um acidente de carro fatal.
No atual frenesi da IA, a previsão de que as máquinas substituirão os humanos está cada vez mais próxima da realidade. Um lado acredita que as máquinas servirão aos humanos, enquanto o outro lado acredita que os humanos criarão acidentalmente algo maligno.
No campo médico, o sistema de IA da IBM "Doctor Watson" deu conselhos de medicação inseguros para pacientes com câncer. Este ano, um artigo apontou que a IA generativa já passou em três seções do Exame de Licenciamento Médico dos EUA. Uma hipótese de migração semelhante é: se a IA diagnosticar e tratar os seres humanos no futuro, e depois os médicos humanos fizerem as verificações, os médicos humanos terão o problema da "inércia social" e da "complacência automatizada"?
Os autores do estudo observaram: "Combinar as capacidades de humanos e robôs obviamente oferece muitas oportunidades, mas também devemos considerar os efeitos não intencionais de enxame que podem ocorrer em equipes homem-máquina. Quando humanos e robôs trabalham em uma tarefa, isso pode levar a uma perda de motivação para os colegas de equipe humanos e tornar efeitos como a inércia social mais prováveis."
Há também preocupações de que a IA possa afetar o pensamento e a criatividade humanos, bem como enfraquecer as relações humanas, desviando a atenção da realidade como um todo. A startup Inflexion, estrela da IA do Vale do Silício, lançou seu chatbot Pi, que foi projetado para ser um companheiro amigável e solidário. De acordo com os fundadores, o Pi é uma ferramenta para ajudar as pessoas a lidar com a solidão e pode ser usado como uma pessoa para confiar. Os críticos argumentam que ele permite que as pessoas escapem da realidade em vez de interagir com humanos reais.
Agora, a relação entre pessoas e ferramentas evoluiu para um novo nível. O nascimento de todas as ferramentas realmente tornou os seres humanos preguiçosos, como varredoras que salvam as pessoas de limpar casas e telefones celulares que fazem com que as pessoas não precisem mais anotar números de telefone.
Mas a diferença entre a tecnologia de IA e a tecnologia anterior é que mais do trabalho de pensamento e escolha é dado à IA, que é basicamente uma caixa preta, que é mais como uma transferência de autonomia de pensamento. Quando as pessoas deixam as decisões de condução inteiramente para a condução autónoma e os diagnósticos médicos para os sistemas de IA, o custo potencial pode ser completamente diferente do custo de não conseguir lembrar-se dos números de telefone.
Joseph Wiesenbaum, o cientista da computação que desenvolveu o primeiro chatbot da história, comparou a ciência a "uma droga viciante" e se tornou "um veneno crônico" devido ao aumento das doses, como a introdução de computadores em atividades humanas complexas, e pode não haver volta.
Quando as pessoas dão o poder de pensar e julgar às máquinas, como uma espécie de "referência", o diabo da "inércia social" e da "complacência automática" também pode espreitar nela, e pode tornar-se um veneno crónico com a repetição de tarefas.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Onde se ajoelhou? Quais são os perigos da cooperação entre humanos e IA?
Fonte original: Geek Park
Autor: Xinxin
"A tecnologia é impulsionada por pessoas preguiçosas!"
Creio que toda a gente usou esta frase para arranjar desculpas para si próprios quando estão a "pescar" ou a "deitar-se".
Da revolução industrial da máquina a vapor à revolução digital do computador, o progresso da tecnologia tornou os seres humanos cada vez mais planos em alguns aspetos.
A tecnologia de IA, que tem o maior potencial para se tornar uma plataforma de próxima geração, tornará os humanos "mais preguiçosos"?
Parece que sim, mas não é uma boa notícia.
De acordo com um novo estudo publicado na revista Frontiers in Robotics and Artificial Intelligence, os seres humanos são realmente "preguiçosos" quando trabalham com IA e máquinas.
De acordo com Cymek, principal autor do estudo, "o trabalho em equipe pode ser tanto uma bênção quanto uma maldição".
Então, na era da IA, a maior crise para a humanidade não é ser substituída por máquinas, mas ter "preguiça de degenerar"?
01 Assistente de máquina, deixe os humanos "baixarem a guarda"
Quando há um ajudante tão poderoso como uma máquina, isso fará com que os seres humanos se tornem mais "de coração grande".
Pesquisadores da Universidade Técnica de Berlim, na Alemanha, forneceram a 42 participantes imagens borradas de placas de circuito e pediram que verificassem se havia defeitos. Metade dos participantes foi informada de que a placa de circuito com a qual estavam lidando havia sido inspecionada por um robô chamado "Panda" e que defeitos haviam sido sinalizados.
Na verdade, o robô "Panda" detetou 94,8% dos defeitos durante o experimento. Todos os participantes receberam as mesmas 320 imagens da placa de circuito digitalizada e, quando os pesquisadores analisaram mais de perto as taxas de erro dos participantes, descobriram que os participantes que trabalharam com o "panda" tinham menos defeitos mais tarde na tarefa porque tinham visto o "panda" marcar com sucesso muitos dos defeitos.
Ambos os grupos de participantes examinaram quase toda a superfície do quadro, gastaram tempo pesquisando e autoavaliaram que seu nível de esforço era maior. Como resultado, os participantes que trabalham com o robô encontraram uma média de 3,3 defeitos e aqueles que concluíram a tarefa sozinhos encontraram uma média de 4,23 defeitos.
"Isso sugere que os participantes podem estar menos atentos à inspeção da placa quando trabalham com seus amigos robôs", disse o estudo. Os participantes do nosso estudo parecem ter mantido seus esforços para inspecionar as placas de circuito, mas parece que a inspeção foi realizada com menos esforço mental e atenção às informações de amostragem."
Isto significa que, se lhes disserem que o robô já verificou uma peça e experimentaram a fiabilidade do robô, encontrarão menos defeitos. Inconscientemente, eles assumem que os "pandas" são menos propensos a perder defeitos, resultando em um efeito de "inércia social".
As implicações deste estudo são particularmente importantes para as indústrias que dependem de um rigoroso controle de qualidade. Os autores alertam que mesmo um curto período de relaxamento da atenção humana, possivelmente devido à dependência excessiva da precisão do robô, pode comprometer a segurança.
O pesquisador Onnasch menciona: "Em turnos mais longos, a perda de motivação tende a ser maior quando as tarefas se tornam rotineiras e o ambiente de trabalho fornece menos monitoramento de desempenho e feedback. É prevalente na indústria transformadora, especialmente em áreas relacionadas com a segurança, onde os controlos duplos são comuns, o que pode ter um impacto negativo nos resultados do trabalho."
É claro que existem algumas limitações para os testes do investigador. Por exemplo, a amostra não é suficientemente grande e é difícil simular a "inércia social" no laboratório porque os participantes sabem que estão a ser monitorizados. Cymek explica: "A principal restrição é o ambiente de laboratório. Para entender a magnitude do problema da perda de poder na interação homem-máquina, precisamos sair do laboratório e testar nossa hipótese em um ambiente de trabalho do mundo real com trabalhadores experientes, que muitas vezes trabalham com robôs."
02 A "Crise de Cooperação Homem-Máquina" Já Ocorreu
Na verdade, fora do laboratório, a "degradação" causada pela cooperação homem-máquina já apareceu no mundo real.
No campo da condução autónoma, existe um fenómeno semelhante à "inércia social", denominada "complacência da automação", que é tipicamente distraída pela presença de assistência automatizada.
Em março de 2018, no Arizona, EUA, um carro autônomo da Uber com um agente de segurança atropelou e matou um ciclista. A análise policial constatou que, se o agente de segurança estivesse olhando para a estrada, poderia ter parado 12,8 metros na frente da vítima e evitado a tragédia.
A Tesla é frequentemente alvo de meios de comunicação e reguladores nos Estados Unidos, muitas vezes devido a acidentes relacionados com a condução autónoma. Um cenário típico é um motorista de Tesla dormir enquanto usa um recurso de direção autônoma, ou jogar um jogo, e se envolver em um acidente de carro fatal.
No atual frenesi da IA, a previsão de que as máquinas substituirão os humanos está cada vez mais próxima da realidade. Um lado acredita que as máquinas servirão aos humanos, enquanto o outro lado acredita que os humanos criarão acidentalmente algo maligno.
No campo médico, o sistema de IA da IBM "Doctor Watson" deu conselhos de medicação inseguros para pacientes com câncer. Este ano, um artigo apontou que a IA generativa já passou em três seções do Exame de Licenciamento Médico dos EUA. Uma hipótese de migração semelhante é: se a IA diagnosticar e tratar os seres humanos no futuro, e depois os médicos humanos fizerem as verificações, os médicos humanos terão o problema da "inércia social" e da "complacência automatizada"?
Os autores do estudo observaram: "Combinar as capacidades de humanos e robôs obviamente oferece muitas oportunidades, mas também devemos considerar os efeitos não intencionais de enxame que podem ocorrer em equipes homem-máquina. Quando humanos e robôs trabalham em uma tarefa, isso pode levar a uma perda de motivação para os colegas de equipe humanos e tornar efeitos como a inércia social mais prováveis."
Há também preocupações de que a IA possa afetar o pensamento e a criatividade humanos, bem como enfraquecer as relações humanas, desviando a atenção da realidade como um todo. A startup Inflexion, estrela da IA do Vale do Silício, lançou seu chatbot Pi, que foi projetado para ser um companheiro amigável e solidário. De acordo com os fundadores, o Pi é uma ferramenta para ajudar as pessoas a lidar com a solidão e pode ser usado como uma pessoa para confiar. Os críticos argumentam que ele permite que as pessoas escapem da realidade em vez de interagir com humanos reais.
Agora, a relação entre pessoas e ferramentas evoluiu para um novo nível. O nascimento de todas as ferramentas realmente tornou os seres humanos preguiçosos, como varredoras que salvam as pessoas de limpar casas e telefones celulares que fazem com que as pessoas não precisem mais anotar números de telefone.
Mas a diferença entre a tecnologia de IA e a tecnologia anterior é que mais do trabalho de pensamento e escolha é dado à IA, que é basicamente uma caixa preta, que é mais como uma transferência de autonomia de pensamento. Quando as pessoas deixam as decisões de condução inteiramente para a condução autónoma e os diagnósticos médicos para os sistemas de IA, o custo potencial pode ser completamente diferente do custo de não conseguir lembrar-se dos números de telefone.
Joseph Wiesenbaum, o cientista da computação que desenvolveu o primeiro chatbot da história, comparou a ciência a "uma droga viciante" e se tornou "um veneno crônico" devido ao aumento das doses, como a introdução de computadores em atividades humanas complexas, e pode não haver volta.
Quando as pessoas dão o poder de pensar e julgar às máquinas, como uma espécie de "referência", o diabo da "inércia social" e da "complacência automática" também pode espreitar nela, e pode tornar-se um veneno crónico com a repetição de tarefas.