La première élection américaine à l'ère de l'IA générative : les lacunes réglementaires pourraient apporter d'énormes changements à la politique mondiale
Certaines campagnes politiques ont commencé à utiliser des e-mails de collecte de fonds et des images promotionnelles générés par l'IA, un phénomène qui ne s'est infiltré que lentement il y a quelques mois, mais qui a maintenant convergé en un énorme torrent et a commencé à réécrire les règles du jeu lors d'élections démocratiques à travers le monde.
L'IA pourrait accélérer l'érosion de la confiance dans les médias, le gouvernement et la société, en approfondissant les préjugés et en élargissant les divisions partisanes, entraînant les électeurs plus profondément dans une bulle d'information polarisante. La construction de nouveaux garde-corps est une priorité.
Le candidat conservateur Anthony Furey a utilisé des images générées par l'intelligence artificielle comme matériel de campagne dans la course à la mairie de Toronto, dont une montrant une rue de la ville bordée de personnes qui semblaient camper à côté de bâtiments sans abri.
La technologie de l'intelligence artificielle (IA) a progressivement été impliquée dans certains aspects des campagnes politiques. À l'approche de l'élection présidentielle américaine de 2024, la technologie de l'IA est de plus en plus utilisée dans les campagnes politiques. Certaines campagnes utilisent de fausses images, vidéos et textes générés par l'IA pour tromper les électeurs, aggraver les préjugés et saper la concurrence loyale. Actuellement, les États-Unis manquent de lois et de réglementations efficaces pour relever ce défi. L'écart dans les règles électorales a apporté d'énormes changements à l'élection présidentielle, qui est liée à la politique américaine et même mondiale.
Les experts craignent que la technologie n'accélère l'érosion de la confiance dans les médias, le gouvernement et la société. Une fausse vidéo peu flatteuse, un e-mail rempli de fausses histoires ou une fausse image de la dégradation urbaine peuvent tous aggraver les préjugés et creuser les clivages partisans en montrant aux électeurs ce qu'ils s'attendent à voir. Les gens peuvent être piégés encore plus profondément dans une bulle d'information polarisante, ne faisant confiance qu'aux sources auxquelles ils choisissent de faire confiance. Cela présente une image similaire à l'élection américaine de 2016 qui a porté Trump au pouvoir.
De l'infiltration lente à l'énorme torrent
L'élection présidentielle américaine de 2024 sera la première élection américaine depuis que l'IA générative a largement influencé les humains. Selon le rapport du "New York Times" du 25 juin, certaines campagnes politiques ont commencé à utiliser des e-mails de collecte de fonds et des images promotionnelles générés par l'IA.Règles du jeu pour des élections démocratiques.
Par exemple, le Comité national républicain des États-Unis a publié une vidéo après que le président Biden a annoncé sa candidature à la réélection, dans laquelle des images synthétisées par intelligence artificielle montraient la fin du monde après la réélection de Biden ; le gouverneur de Floride Ron DeSantis (Ron DeSantis) utilise l'IA pour synthétiser des images, de fausses photos de l'ancien président Trump et de l'ancien responsable de la santé, le Dr Anthony Fauci, ont été publiées sur les plateformes sociales ; le Parti démocrate a essayé des messages de collecte de fonds rédigés par AI au printemps et a constaté qu'ils étaient souvent plus précis que ceux écrits par des humains. Rédigez une copie qui encourage mieux la participation des électeurs et les dons ; en avril, un candidat à la course à la mairie de Chicago s'est plaint qu'un compte Twitter se faisant passer pour un média utilisait l'intelligence artificielle d'une manière qui suggérait qu'il tolérait la brutalité policière Clone sa voix.
Certains politiciens pensent que la technologie de l'IA peut aider à réduire les coûts de campagne. Par exemple, il peut être utilisé pour fournir des réponses instantanées à des questions de débat ou à des publicités offensantes, ou pour analyser certaines données qui nécessiteraient autrement une analyse d'experts coûteuse.
Le candidat conservateur Anthony Furey a utilisé des images générées par l'intelligence artificielle comme matériel de campagne lors de l'élection du maire de Toronto le 26 juin, dont une montrant une rue de la ville bordée de ce qui semblait être C'est un sans-abri campant à côté d'un immeuble, mais regardez de plus près le premier plan révèle quelqu'un qui ressemble plus à un rendu ; une autre photo montre deux personnes qui semblent avoir une discussion importante, et celle de gauche a trois bras. Malgré les attaques de ses rivaux, les images composites ont renforcé le profil de Fury dans une course à la mairie de 101 terrains.
L'homme de gauche a trois bras dans le matériel de campagne généré par l'IA pour le candidat à la mairie de Toronto, Anthony Fury.
"Un scepticisme sain encourage les bonnes habitudes (telles que la lecture latérale et la recherche de sources fiables), et cette technologie pourrait entraîner le passage d'un scepticisme sain à un scepticisme malsain selon lequel il est impossible pour les gens de savoir ce qui est réel."
Comment l'IA peut affecter les élections américaines de 2024
L'American Institute of Political Consultants a récemment condamné l'utilisation de deepfakes dans les campagnes politiques comme une violation éthique. Larry Huynh, président du groupe, a déclaré : « Les gens sont tentés de repousser les limites et de voir ce qu'ils peuvent faire avec les choses. Comme tout outil, ils peuvent être utilisés à de mauvaises fins ou conduites pour tromper les électeurs, induire en erreur les électeurs, faire croire aux électeurs croire des choses qui n'existent pas."
"Si quelqu'un peut créer du bruit, créer de l'incertitude ou créer un faux récit, cela peut être un moyen efficace d'influencer les électeurs et de gagner les élections", a déclaré Darrell M. West, chercheur principal à la Brookings Institution. un rapport en mai de cette année, "Puisque l'élection présidentielle de 2024 peut dépendre de dizaines de milliers d'électeurs dans une poignée d'États, tout ce qui peut faire pencher les gens dans une direction ou une autre peut en fin de compte être le facteur décisif."
Le rapport, "Comment l'intelligence artificielle transformera l'élection de 2024", pose trois questions. Premièrement, les politiciens peuvent utiliser l'IA générative pour réagir immédiatement aux développements de leurs campagnes. Au cours de l'année à venir, les temps de réponse pourraient être réduits à quelques minutes, et non à des heures ou à des jours. L'IA peut scanner Internet, imaginer des tactiques et lancer un appel puissant, qui peut être un discours, un communiqué de presse, une photo, une blague ou une vidéo vantant les avantages d'un candidat par rapport à un autre.
Deuxièmement, l'IA peut cibler des publics très précisément. Les candidats ne veulent pas gaspiller de l'argent sur des électeurs qui sont déjà pour ou contre eux, mais veulent plutôt cibler un petit nombre d'électeurs swing. En raison du taux élevé de polarisation politique aux États-Unis, seul un faible pourcentage d'électeurs a exprimé son indécision. Le Center for Public Influence a publié un rapport sur la manière dont les données de l'élection américaine de 2016 et de Cambridge Analytica ont été utilisées pour diffuser des publicités ciblées basées sur la "psychologie individuelle" des utilisateurs des médias sociaux. "Le problème avec cette approche n'est pas la technologie elle-même, mais la nature secrète de la campagne et la malhonnêteté flagrante de son message politique", indique le rapport. "Différents électeurs ont reçu des messages différents, basés sur des prédictions de sensibilité à différents arguments".
De plus, l'IA peut démocratiser la désinformation en apportant des outils aux gens ordinaires intéressés par la promotion de leurs candidats préférés. Il n'est plus nécessaire d'être un programmeur ou un professionnel de la vidéo pour générer du texte, des images, des vidéos ou des programmes, n'importe qui peut être un créateur de contenu politique et chercher à influencer les électeurs ou les médias. Les nouvelles technologies permettent également aux gens de monétiser le mécontentement et de tirer profit de la peur, de l'anxiété ou de la colère des autres.
Actuellement, la technologie de l'intelligence artificielle est beaucoup plus puissante qu'auparavant, et bien qu'elle ne soit pas parfaite, elle s'améliore rapidement et est facile à apprendre. En mai, le PDG d'OpenAI, Sam Altman, a déclaré à un sous-comité sénatorial lors d'une audience qu'il était profondément préoccupé par l'élection présidentielle de 2024 et que la technologie "manipule, persuade, fournit une sorte de tête-à-tête. La capacité d'interagir avec la désinformation" est "un sujet de préoccupation important."
Poussez pour construire de nouveaux "garde-fous"
Cependant, comme de plus en plus de contenus sophistiqués générés par l'IA apparaissent fréquemment sur les réseaux sociaux, la plupart de ces plateformes de réseaux sociaux ne veulent pas ou ne peuvent pas le contrôler. Ben Colman, directeur général de Reality Defender, qui fournit des services de détection de contenu généré par l'IA, a déclaré que les lacunes réglementaires permettent au contenu généré par l'IA non signalé de causer des "dommages irréversibles" avant qu'il ne puisse être résolu.
"Pour les millions d'utilisateurs qui ont déjà vu et partagé du faux contenu, expliquer qu'il était faux après coup est trop tard et n'a que peu d'effet", a ajouté Coleman.
De nombreux consultants politiques, chercheurs électoraux et législateurs affirment que la création de nouveaux garde-fous, tels que des lois pour réglementer la publicité synthétique, est une priorité absolue. Les défenses existantes, telles que les règles des médias sociaux et les services qui prétendent détecter le contenu de l'IA, n'ont pas réussi à endiguer efficacement la marée.
La représentante Yvette D. Clarke, une démocrate de New York, a déclaré dans un communiqué le mois dernier que le cycle électoral de 2024 "sera la première élection dans laquelle le contenu généré par l'IA prévaudra". Elle et des démocrates du Congrès comme la sénatrice Amy Klobuchar du Minnesota ont présenté une législation qui obligerait les publicités politiques à divulguer leur utilisation du contenu généré par l'IA. Un projet de loi similaire a récemment été promulgué dans l'État de Washington.
Voir l'original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
La première élection américaine à l'ère de l'IA générative : les lacunes réglementaires pourraient apporter d'énormes changements à la politique mondiale
Source: Le papier
Journaliste Fang Xiao stagiaire Chen Xiaorui
Certaines campagnes politiques ont commencé à utiliser des e-mails de collecte de fonds et des images promotionnelles générés par l'IA, un phénomène qui ne s'est infiltré que lentement il y a quelques mois, mais qui a maintenant convergé en un énorme torrent et a commencé à réécrire les règles du jeu lors d'élections démocratiques à travers le monde.
L'IA pourrait accélérer l'érosion de la confiance dans les médias, le gouvernement et la société, en approfondissant les préjugés et en élargissant les divisions partisanes, entraînant les électeurs plus profondément dans une bulle d'information polarisante. La construction de nouveaux garde-corps est une priorité.
La technologie de l'intelligence artificielle (IA) a progressivement été impliquée dans certains aspects des campagnes politiques. À l'approche de l'élection présidentielle américaine de 2024, la technologie de l'IA est de plus en plus utilisée dans les campagnes politiques. Certaines campagnes utilisent de fausses images, vidéos et textes générés par l'IA pour tromper les électeurs, aggraver les préjugés et saper la concurrence loyale. Actuellement, les États-Unis manquent de lois et de réglementations efficaces pour relever ce défi. L'écart dans les règles électorales a apporté d'énormes changements à l'élection présidentielle, qui est liée à la politique américaine et même mondiale.
Les experts craignent que la technologie n'accélère l'érosion de la confiance dans les médias, le gouvernement et la société. Une fausse vidéo peu flatteuse, un e-mail rempli de fausses histoires ou une fausse image de la dégradation urbaine peuvent tous aggraver les préjugés et creuser les clivages partisans en montrant aux électeurs ce qu'ils s'attendent à voir. Les gens peuvent être piégés encore plus profondément dans une bulle d'information polarisante, ne faisant confiance qu'aux sources auxquelles ils choisissent de faire confiance. Cela présente une image similaire à l'élection américaine de 2016 qui a porté Trump au pouvoir.
De l'infiltration lente à l'énorme torrent
L'élection présidentielle américaine de 2024 sera la première élection américaine depuis que l'IA générative a largement influencé les humains. Selon le rapport du "New York Times" du 25 juin, certaines campagnes politiques ont commencé à utiliser des e-mails de collecte de fonds et des images promotionnelles générés par l'IA.Règles du jeu pour des élections démocratiques.
Par exemple, le Comité national républicain des États-Unis a publié une vidéo après que le président Biden a annoncé sa candidature à la réélection, dans laquelle des images synthétisées par intelligence artificielle montraient la fin du monde après la réélection de Biden ; le gouverneur de Floride Ron DeSantis (Ron DeSantis) utilise l'IA pour synthétiser des images, de fausses photos de l'ancien président Trump et de l'ancien responsable de la santé, le Dr Anthony Fauci, ont été publiées sur les plateformes sociales ; le Parti démocrate a essayé des messages de collecte de fonds rédigés par AI au printemps et a constaté qu'ils étaient souvent plus précis que ceux écrits par des humains. Rédigez une copie qui encourage mieux la participation des électeurs et les dons ; en avril, un candidat à la course à la mairie de Chicago s'est plaint qu'un compte Twitter se faisant passer pour un média utilisait l'intelligence artificielle d'une manière qui suggérait qu'il tolérait la brutalité policière Clone sa voix.
Certains politiciens pensent que la technologie de l'IA peut aider à réduire les coûts de campagne. Par exemple, il peut être utilisé pour fournir des réponses instantanées à des questions de débat ou à des publicités offensantes, ou pour analyser certaines données qui nécessiteraient autrement une analyse d'experts coûteuse.
Le candidat conservateur Anthony Furey a utilisé des images générées par l'intelligence artificielle comme matériel de campagne lors de l'élection du maire de Toronto le 26 juin, dont une montrant une rue de la ville bordée de ce qui semblait être C'est un sans-abri campant à côté d'un immeuble, mais regardez de plus près le premier plan révèle quelqu'un qui ressemble plus à un rendu ; une autre photo montre deux personnes qui semblent avoir une discussion importante, et celle de gauche a trois bras. Malgré les attaques de ses rivaux, les images composites ont renforcé le profil de Fury dans une course à la mairie de 101 terrains.
"Un scepticisme sain encourage les bonnes habitudes (telles que la lecture latérale et la recherche de sources fiables), et cette technologie pourrait entraîner le passage d'un scepticisme sain à un scepticisme malsain selon lequel il est impossible pour les gens de savoir ce qui est réel."
Comment l'IA peut affecter les élections américaines de 2024
L'American Institute of Political Consultants a récemment condamné l'utilisation de deepfakes dans les campagnes politiques comme une violation éthique. Larry Huynh, président du groupe, a déclaré : « Les gens sont tentés de repousser les limites et de voir ce qu'ils peuvent faire avec les choses. Comme tout outil, ils peuvent être utilisés à de mauvaises fins ou conduites pour tromper les électeurs, induire en erreur les électeurs, faire croire aux électeurs croire des choses qui n'existent pas."
"Si quelqu'un peut créer du bruit, créer de l'incertitude ou créer un faux récit, cela peut être un moyen efficace d'influencer les électeurs et de gagner les élections", a déclaré Darrell M. West, chercheur principal à la Brookings Institution. un rapport en mai de cette année, "Puisque l'élection présidentielle de 2024 peut dépendre de dizaines de milliers d'électeurs dans une poignée d'États, tout ce qui peut faire pencher les gens dans une direction ou une autre peut en fin de compte être le facteur décisif."
Le rapport, "Comment l'intelligence artificielle transformera l'élection de 2024", pose trois questions. Premièrement, les politiciens peuvent utiliser l'IA générative pour réagir immédiatement aux développements de leurs campagnes. Au cours de l'année à venir, les temps de réponse pourraient être réduits à quelques minutes, et non à des heures ou à des jours. L'IA peut scanner Internet, imaginer des tactiques et lancer un appel puissant, qui peut être un discours, un communiqué de presse, une photo, une blague ou une vidéo vantant les avantages d'un candidat par rapport à un autre.
Deuxièmement, l'IA peut cibler des publics très précisément. Les candidats ne veulent pas gaspiller de l'argent sur des électeurs qui sont déjà pour ou contre eux, mais veulent plutôt cibler un petit nombre d'électeurs swing. En raison du taux élevé de polarisation politique aux États-Unis, seul un faible pourcentage d'électeurs a exprimé son indécision. Le Center for Public Influence a publié un rapport sur la manière dont les données de l'élection américaine de 2016 et de Cambridge Analytica ont été utilisées pour diffuser des publicités ciblées basées sur la "psychologie individuelle" des utilisateurs des médias sociaux. "Le problème avec cette approche n'est pas la technologie elle-même, mais la nature secrète de la campagne et la malhonnêteté flagrante de son message politique", indique le rapport. "Différents électeurs ont reçu des messages différents, basés sur des prédictions de sensibilité à différents arguments".
De plus, l'IA peut démocratiser la désinformation en apportant des outils aux gens ordinaires intéressés par la promotion de leurs candidats préférés. Il n'est plus nécessaire d'être un programmeur ou un professionnel de la vidéo pour générer du texte, des images, des vidéos ou des programmes, n'importe qui peut être un créateur de contenu politique et chercher à influencer les électeurs ou les médias. Les nouvelles technologies permettent également aux gens de monétiser le mécontentement et de tirer profit de la peur, de l'anxiété ou de la colère des autres.
Actuellement, la technologie de l'intelligence artificielle est beaucoup plus puissante qu'auparavant, et bien qu'elle ne soit pas parfaite, elle s'améliore rapidement et est facile à apprendre. En mai, le PDG d'OpenAI, Sam Altman, a déclaré à un sous-comité sénatorial lors d'une audience qu'il était profondément préoccupé par l'élection présidentielle de 2024 et que la technologie "manipule, persuade, fournit une sorte de tête-à-tête. La capacité d'interagir avec la désinformation" est "un sujet de préoccupation important."
Poussez pour construire de nouveaux "garde-fous"
Cependant, comme de plus en plus de contenus sophistiqués générés par l'IA apparaissent fréquemment sur les réseaux sociaux, la plupart de ces plateformes de réseaux sociaux ne veulent pas ou ne peuvent pas le contrôler. Ben Colman, directeur général de Reality Defender, qui fournit des services de détection de contenu généré par l'IA, a déclaré que les lacunes réglementaires permettent au contenu généré par l'IA non signalé de causer des "dommages irréversibles" avant qu'il ne puisse être résolu.
"Pour les millions d'utilisateurs qui ont déjà vu et partagé du faux contenu, expliquer qu'il était faux après coup est trop tard et n'a que peu d'effet", a ajouté Coleman.
De nombreux consultants politiques, chercheurs électoraux et législateurs affirment que la création de nouveaux garde-fous, tels que des lois pour réglementer la publicité synthétique, est une priorité absolue. Les défenses existantes, telles que les règles des médias sociaux et les services qui prétendent détecter le contenu de l'IA, n'ont pas réussi à endiguer efficacement la marée.
La représentante Yvette D. Clarke, une démocrate de New York, a déclaré dans un communiqué le mois dernier que le cycle électoral de 2024 "sera la première élection dans laquelle le contenu généré par l'IA prévaudra". Elle et des démocrates du Congrès comme la sénatrice Amy Klobuchar du Minnesota ont présenté une législation qui obligerait les publicités politiques à divulguer leur utilisation du contenu généré par l'IA. Un projet de loi similaire a récemment été promulgué dans l'État de Washington.