Risque d’une IA malveillante
Une étude en cours, citée par Slate en décembre 2016, se penche sur la question suivante : « Une IA ou une association d’IA est‑elle en mesure de provoquer une situation de crise potentiellement militaire entre États, dès aujourd’hui ou à très court terme ? ». Le travail propose des scénarios rationnels fondés sur des technologies déjà acquises, maîtrisées ou en cours de développement. Les auteurs estiment que le danger d’une dérive malveillante réside dans des séquences de mécanismes d’intelligence artificielle et d’apprentissage qui, combinés, peuvent devenir dangereux alors que chaque mécanisme, isolé, ne l’est pas. Le risque découle ainsi de l’association de ces mécanismes humains ou numériques et pourrait engendrer un contexte de crise, rappelant la forme faible d’alerte évoquée par Stephen Hawking et Elon Musk.
Avis du président Obama
Barack Obama a consacré un long entretien à l’intelligence artificielle en octobre 2016, relayé par Le Monde. Il a déclaré : « Si l’on s’en sert correctement, l’IA peut générer énormément d’occasions et de prospérité ». Il a ajouté que « il peut aussi y avoir de mauvais côtés, et il va falloir régler ça notamment pour préserver l’emploi. L’IA pourrait accroître les inégalités ». Selon lui, la plupart des citoyens ne craignent pas une super‑intelligence de type science‑fiction, mais se demandent « alors, est‑ce que je vais être remplacé au travail par une machine ? ». Obama a reconnu que « il va falloir que nous ayons une discussion dans notre société sur comment gérer cela » et a souligné que « il ne fait aucun doute que le développement de normes internationales, de protocoles et de mécanismes de vérification dans la cybersécurité en général et dans l’IA en particulier n’en est qu’à ses balbutiements ». Sur le plan des armes, le rapport de la Maison Blanche recommande « le gouvernement américain devrait définir une politique à ce sujet, compatible avec les règles humanitaires internationales, sur les armes autonomes et semi‑autonomes ».
Entreprises technologiques et accès ouvert
En décembre 2015, Le Monde a rapporté que plusieurs grands acteurs de la Silicon Valley, tout en avertissant des risques liés à l’IA, ont rendu une partie de leurs technologies open source. Cette démarche, qualifiée de stratégie de communication, vise à présenter les entreprises comme « les gentils » malgré le potentiel néfaste de la technologie. Selon l’article, cette mise à disposition gratuite du code source des systèmes d’IA les plus avancés sert à « désamorcer les attaques » et à « blanchir » leur image à un moment où elles sont plus puissantes que jamais, les entreprises estimant qu’elles ont plus à perdre d’une réputation ternie qu’à céder une partie de leur marché.
Le deep learning, une révolution rapide
Yann Le Cun, pionnier du deep learning, a déclaré en septembre 2015 que « je n’ai jamais vu une révolution aussi rapide. On est passé d’un système un peu obscur à un système utilisé par des millions de personnes en seulement deux ans ». Le deep learning repose sur des réseaux de neurones artificiels capables d’apprendre et de classer des données. Le processus d’identification d’une image, par exemple un chat, passe par plusieurs couches de neurones qui extraient d’abord des caractéristiques simples (pixels, différences de contraste) puis les combinent pour reconnaître des formes plus complexes comme l’oreille du chat. Yann Ollivier a précisé que « avec les méthodes traditionnelles, la machine se contente de comparer les pixels. Le deep learning permet un apprentissage sur des caractéristiques plus abstraites que des valeurs de pixels, qu’elle va elle-même construire ». Ces technologies sont aujourd’hui intégrées dans des assistants vocaux tels que Siri, Cortana et Google Now.
Avertissements de Stephen Hawking
Dans un entretien avec la BBC publié en décembre 2014, l’astrophysicien Stephen Hawking a exprimé ses craintes quant à l’évolution de l’intelligence artificielle. Il a affirmé : « Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité ». Il a ajouté que « une fois que les hommes auraient développé l’intelligence artificielle, celle‑ci décollerait seule, et se redéfinirait de plus en plus vite », et que les humains, limités par une lente évolution biologique, « ne pourraient pas rivaliser et seraient dépassés ».
Source : SI & Management
Service
Développement de boutique en ligne professionnelle (E-commerce)
Création de boutique en ligne professionnelle à partir de 125 000 FCFA. Vendez vos produits partout au Burkina Faso et à l'international.
À partir de 125 000 F CFADécouvrir le service
