En août 2023 aura lieu la conférence sur la sécurité Defcon, où des milliers de. hackers effectueront une exercice pour tester le sécurité de la chatbots de IA avec un attaque massive. La Maison Blanche a annoncé qu'elle soutiendrait l'exercice lors de l'événement de Las Vegas, auquel participeront des entreprises de renom telles que Microsoft, Google et OpenAI.
La Maison Blanche a publié un communiqué expliquant que cet exercice sera essentiel pour fournir aux chercheurs des informations sur le niveau de sécurité de ces modèLes. En outre, il aidera également les développeurs eux-mêmes à améliorer le niveau de sécurité de leurs outils afin d'éviter des situations compliquées à l'avenir.
Cette annonce fait suite à une importante réunion à la Maison Blanche entre le président américain Joe Biden et Google, Microsoft et OpenAI pour discuter de cette technologie. Participer à cet événement ne faisait pas partie des options les plus envisageables. Cependant, la possibilité était sur la table et s'est finalement produite.
Il s'agit d'un événement extrêmement important, où des milliers de hackers pourront en profiter pour tenter d'exposer différentes faiblesses de cette technologie qui est en train de révolutionner le monde entier. Même si nous savons déjà que l'intelligence artificielle open source peut gagner cette course effrénée.
Le temps est venu de mettre l'intelligence artificielle à l'épreuve
Sven Cattell, l'une des personnes qui organisent la Defcon, a déclaré à Forbes que ce genre d'exercice doit être fait, c'est une nécessité pour l'industrie de l'IA et cela devrait être fait pour le bien de tous.
Rappelons que l'IA générative traverse un moment qui comporte de bonnes et de mauvaises choses. De l'Union européenne qui bloque ChatGPT pour ne pas avoir respecté la vie privée de ses utilisateurs, à l'industrie de la musique qui est contre, en passant par l'énorme crainte de voir de nombreuses personnes perdre leur emploi. Nous trouvons également différentes histoires de personnes qui ont réussi à en tirer le meilleur parti.
Cependant, il existe une crainte totalement justifiée que cette technologie puisse servir des acteurs malveillants, être utilisée d'une manière pour laquelle elle n'a pas été prévue et être piégée pour faire ce que nous voulons, que ce soit bien ou mal. Pour ces raisons et plusieurs autres, la décision a été prise de mener cette attaque massive contre les chatbots d'IA dans le cadre d'un événement contrôlé.
Les organisateurs de l'événement espèrent exposer d'importants problèmes de sécurité et de sûreté de ces intelligences artificielles. Mais ils souhaitent également que les hackers contribuent à indiquer la voie à suivre pour que ces développements majeurs améliorent la sécurité de manière générale.
Un énorme investissement de la part du gouvernement américain.
Mais l'annonce liée à Defcon n'est pas la seule chose surprenante. Il s'avère que la Maison Blanche investit 140 millions de dollars pour créer sept instituts nationaux de recherche sur l'IA. Axés sur la création d'une intelligence artificielle éthique et au service du bien public, le gouvernement a déclaré.
La situation de l'intelligence artificielle concerne tout le monde. Les gouvernements du monde entier mettent en place des mesures pour contrôler ces développements. L'Union européenne est en train de mettre en place une loi sur l'intelligence artificielle. Depuis la Chine, ils ont annoncé qu'une nouvelle réglementation sur l'intelligence artificielle est en cours de mise en œuvre et nous pourrions continuer toute la journée.
