Le « triage » de Miles Brundage pour réduire les risques de l’IA

1 min de lecture

Le « triage » de Miles Brundage pour réduire les risques de l’IA

Miles Brundage propose une stratégie de « triage » en matière de sécurité de l’intelligence artificielle. L’objectif est de diminuer 80 % des menaces potentielles en concentrant les ressources sur les problèmes les plus critiques, tout en limitant les efforts requis.

Opposition de la communauté

Des chercheurs tels que Toby Ord et Eliezer Yudkowsky contestent la pertinence du principe 80/20 appliqué à la sécurité de l’IA. Ils préconisent de maintenir des estimations larges concernant les délais d’émergence d’une IA avancée, afin d’éviter de sous‑estimer les risques futurs.

Progrès revendiqués par OpenAI

OpenAI affirme avoir réalisé d’importantes avancées en mathématiques grâce à ses modèles d’IA. Cependant, le débat persiste quant à la portée réelle de ces progrès et à la vitesse à laquelle les capacités de l’IA évoluent.

Débats en cours

Certains experts restent prudents et soulignent que les évaluations optimistes peuvent masquer des incertitudes majeures concernant la trajectoire de développement de l’intelligence artificielle.

Source : Brief IA