Yoshua Bengio lanza LawZero, una organización sin ánimo de lucro con sede en Canadá que dará prioridad al desarrollo de una inteligencia artificial (IA) segura y fiable.
PUBLICIDADUno de los investigadores de inteligencia artificial (IA) más citados del mundo lanza una nueva organización sin ánimo de lucro que diseñará sistemas de IA seguros. Yoshua Bengio, científico canadiense francés especializado en inteligencia artificial, ganador del prestigioso premio Alan Turing por sus trabajos sobre aprendizaje profundo y apodado uno de los padrinos de la Inteligencia Artificial, anunció el lanzamiento de LawZero en Montreal.
La nueva organización sin ánimo de lucro está reuniendo a un equipo de investigadores de IA de talla mundial que se dedica a "dar prioridad a la seguridad frente a los imperativos comerciales", reza un comunicado de la organización sin ánimo de lucro.
"Los modelos actuales de inteligencia artificial están desarrollando capacidades y comportamientos peligrosos, como el engaño, la autopreservación y la desalineación de objetivos", afirma Bengio en el comunicado, en el que señala que la organización ayudará a liberar el inmenso potencial de la IA reduciendo al mismo tiempo estos riesgos.
Bengio explicó que la organización sin ánimo de lucro nació de una nueva dirección científica de 2023 y que ha culminado en 'Scientist AI', un nuevo sistema de IA no agenética que él y su equipo están desarrollando para que actúe como barandilla contra los sistemas incontrolados de IA agenética.
Una IA que aprenderá a entender el mundo
Este principio difiere del de otras empresas en que quiere dar prioridad a las IA no agenéticas, lo que significa que necesitan instrucciones directas para cada tarea en lugar de dar las respuestas de forma independiente, como la mayoría de los sistemas de IA.
Las IA no agenéticas construidas por LawZero "aprenderán a entender el mundo en lugar de actuar en él" y serán entrenadas para dar "respuestas veraces a preguntas basadas en razonamientos externos".
Bengio se explayó sobre la IA científica en un reciente artículo de opinión para 'Time', en el que escribió que está "realmente preocupado por el comportamiento que la IA sin control ya está demostrando, en particular la autopreservación y el engaño". "En lugar de intentar complacer a los humanos, 'Scientist AI' podría diseñarse para dar prioridad a la honestidad", escribió.
La organización ha recibido donaciones de otros institutos de IA como el Future of Life Institute, Jaan Tallin y la Silicon Valley Community Foundation en su fase de incubadora. LawZero trabajará desde el Instituto de Inteligencia Artificial de Quebec (MILA), en Montreal, que Bengio ayudó a cofundar.