La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, motivo por el cual debería ser planeada y administrada con adecuados cuidados y recursos. Infortunadamente, este nivel de planeación y administración no se está dando, ya que en meses recientes hemos visto laboratorios de IA enfrentados en una carrera sin control para desarrollar y presentar mentes digitales tan poderosas que nadie -ni siquiera sus creadores- las pueden entender, predecir o controlar con seguridad”.
Así comienza la carta “que firmaron más de 1.000 reconocidos académicos y empresarios, incluyendo el cofundador de Apple, Steve Wosniak y Elon Musk, el multimillonario dueño de Tesla y gran usuario de la IA para la producción de sus vehículos. Esta carta saltó a la luz pública dos semanas tras la publicación del GPT-4, el sistema de IA más poderoso desarrollado hasta la fecha, publicación que les ha permitido a los investigadores recortar sus expectativas sobre cuando podrá la General Artificial Intelligence (AGI) sobrepasar nuestras habilidades cognitivas. Muchos expertos consideran que mientras se calienta la carrera entre las IA, camina despierta la a humanidad hacia una catástrofe”.
Y continúa la carta citada: “Los sistemas modernos de IA artificial ya compiten con los seres humanos en no pocas tareas. Razón por la cual debemos preguntarnos: ¿Deberemos permitir que nos inunden las máquinas los canales de información con propagandas e informaciones falsas? ¿Deberemos automatizar todos los trabajos incluyendo los más gratificantes? ¿Deberemos desarrollar mentes no humanas que puedan eventualmente superarnos en número, tornarnos obsoletos y reemplazarnos? ¿Deberemos arriesgarnos a perder control de nuestra civilización? ¿Deberemos delegar estas decisiones a líderes tecnológicos no elegidos por el pueblo?”.
“Les solicita la carta a todos los laboratorios de IA que empleen los seis meses de pausa solicitados para desarrollar y aplicar por consenso un conjunto de protocolos de seguridad para los productos futuros de la IA, así como para conformar un sistema de auditoría externa independiente para ellos. Estos consensos deberán asegurar que son seguros los productos auditados, frente a las azarosas competencias del pasado con sus impredecibles consecuencias”.
“Y termina la carta: “En años pasados, limitó la Sociedad los efectos potencialmente catastróficos de otras tecnologías sobre todos nosotros. Hoy podemos hacer lo mismo”.
Referencia: Elon Musk Signs Open Letter Urging AI Labs to Pump the Brakes. Autor. Billy Perringo.
