Alerta mundial tras crear una IA que amenaza con eliminar a toda la humanidad sin entender sus potenciales consecuencias.
Amenaza para la humanidad. Según indican en The Information y en Reuters, justo antes del «exilio» de Altman sus investigadores escribieron una carta al consejo advirtiendo de que habían hecho un importante descubrimiento. Uno que según fuentes cercanas a los acontecimientos «podía amenazar a la humanidad».
Crean una IA que amenaza con eliminar toda la humanidad
Un motivo más para el despido. Esas fuentes indican que esa carta y el nuevo algoritmo de IA del que se hablaba en ella acabó convirtiéndose en una de las razones de la decisión que más tarde acabaría tomando el consejo, que despidió a Altman y forzó la dimisión de Brockman.
La amenaza
Desarrollo seguro vs ganar dinero. En ese consejo había preocupación por la tendencia a comercializar esos avances sin entender sus potenciales consecuencias. En OpenAI confirmaron en un mensaje interno a la plantilla que había un proyecto llamado «Q*» (pronunciado «Q star»). Así habían escrito una carta advirtiendo de sus potenciales implicaciones. En The Information destacan que quien lideró ese proyecto fue Ilya Sutskever, Chief Scientist en OpenAI y uno de los artífices del despido de Altman.
El futuro
Un potencial paso hacia la AGI. Según fuentes internas, hay empleados de OpenAI que creen que Q* podría ser un punto de inflexión en la consecución de lo que se conoce como inteligencia artificial general (AGI), es decir, un sistema de IA que según la empresa sobrepasaría a los humanos en todas las tareas con valor económico.
