¿Las empresas tecnológicas van demasiado rápido en el lanzamiento de poderosas tecnologías de inteligencia artificial que algún día podrían aventajar a los humanos?
Esa es la conclusión de un reconocido grupo de científicos informáticos y otros personajes de la industria tecnológica como Elon Musk y el cofundador de Apple, Steve Wozniak, quienes piden una pausa de seis meses para considerar los riesgos.
Su petición publicada el miércoles es una respuesta al reciente lanzamiento GPT-4 de la empresa incipiente OpenAI, un sucesor más avanzado de su extensamente usado chatbot ChatGPT, que en parte impulsó una carrera entre los gigantes tecnológicos Microsoft y Google para lanzar aplicaciones similares.
¿Qué dicen?
La carta advierte que los sistemas de inteligencia artificial con “inteligencia competitiva con humanos pueden plantear fuertes riesgos a la sociedad y la humanidad”, desde inundar el internet con desinformación y automatizar trabajos, hasta riesgos futuros más catastróficos sacados del ámbito de la ciencia ficción.
Dice que en “meses recientes laboratorios de inteligencia artificial están enfrascados en una carrera sin control para desarrollar y desplegar mentes digitales más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera fiable”.
¿Quién la firmó?
La petición fue organizada por el organismo no lucrativo Future of Life Institute (Instituto Futuro de la Vida) que dice que entre los firmantes confirmados está el galardonado con el premio Turing y pionero de la inteligencia artificial, Yoshua Bengio, y otros investigadores líder de la tecnología como Stuart Rusell y Gary Marcus. Entre otros están Wozniak, el excandidato a la presidencia de Estado Unidos, Andrew Yang, y Rachel Bronson, presidenta de Bulletin of the Atomic Scientists, un grupo de defensa orientado a la ciencia conocido por sus advertencias contra una guerra nuclear que acabe con la humanidad.
Musk, quien dirige Tesla, Twitter y SpaceX, cofundó OpenAI y fue de sus primeros inversores, desde hace mucho tiempo expresa preocupación por los riesgos existenciales de la inteligencia artificial. Un firmante más sorpresivo es Emad Mostaque, director general de Stability AI, fabricante del generador de imágenes de inteligencia artificial Stable Diffusion que se asocia con Amazon y compite con el generador similar de OpenAI conocido como DALL-E.
¿Cuál es la respuesta?
OpenAI, Microsoft y Google no respondieron de momento peticiones de comentario del miércoles, pero la carta ya cuenta con muchos escépticos.
“Una pausa es una buena idea, pero la carta es confusa y no se toma en serio los problemas regulatorios”, dice James Grimmelmann, profesor de ley digital y de la información en la Universidad Cornell. “También es muy hipócrita que Elon Musk firme dado lo mucho que Tesla ha luchado contra la responsabilidad por la inteligencia artificial defectuosa en sus autos autónomos”.
