En su columna para QR!, el programa de Pablo Caruso que se emite por +Perfil, el reconocido periodista y divulgador científico Claudio Martínez habló de la Inteligencia Artificial (IA) y los debates que está generando en todo el mundo.
“La IA es un tema geopolítico. Es un tema que excede lo tecnológico. Es una tecnología de impacto múltiple, en distintas industrias, que viene a cambiar el modo de trabajar, de educarnos. Esto viene a suplementar nuestro cerebro y es otro tema”, comenzó diciendo.
Y agregó: “Es lo que está hoy discutiéndose en todo el mundo: el peligro de la Inteligencia Artificial. Es algo que se ha puesto muy a tope de agenda porque ya no son algunos periodistas hablando del peligro que se supone una inteligencia artificial descontrolada, ahora son los propios magnates tecnológicos los que están poniendo esto a tope en Agenda, hasta el mismísimo Elon Musk en las últimas semanas”.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
En ese punto, señaló: “¿De qué están hablando? Ellos están hablando de una situación que se llama ‘la automejora recursiva’. ¿Qué quiere decir? Que las máquinas se están programando a sí mismas. Lo que viene pasando tiene que ver con eso. Desde hace por lo menos 1 año y medio las empresas tecnológicas van eliminando los puestos de los creadores del monstruo, los programadores, para entregarle a las máquinas ese lugar. Las máquinas se autoprograman, se autoentrenan”.
Martínez detalló: “Cada vez hay menos programadores dentro de las compañías y esto produce una aceleración. Este es el gran tema. La aceleración es el gran detalle y el punto donde tenemos que hacer doble click. Porque las máquinas trabajan a ritmo de máquina. Un humano trabaja 8 a 10 horas a ritmo humano, la máquina trabaja 24 horas a ritmo de máquina. Se aceleró muchísimo el desarrollo”.
El experto señaló: “¿Y cuál es el problema? El problema es que debe haber en una tecnología que tiene tantos riesgos potenciales algún tipo de sincronización entre el desarrollo y la seguridad. El desarrollo lo hacen las máquinas, la seguridad la tienen que hacer los hombres. Los hombres de estas grandes compañías no le pueden seguir el ritmo a sus propios desarrollos y entender cuáles son los impactos en términos de seguridad de esas tecnologías. Eso es lo que está en debate hoy”.
El columnista explicó: “En el medio de todo esto aparece la política y Trump dice: ‘Hay que seguir’. ¿Y por qué dice eso? Porque Trump está mirando a China, no está mirando la seguridad, está mirando a su rival geopolítico, que China está avanzando a pasos muy acelerados y creo que antes que termine esta década va a superar a los grandes monstruos de Silicon Valley”.
En ese momento, Martínez fue al eje del debate: “¿De qué hablamos cuándo hablamos de riesgo? Se habla de riesgo catastrófico y de riesgo existencial. Riesgo catastrófico es un enjambre de modelos de IA atacando una central hidroeléctrica y haciendo que un país entero se quede dos semanas sin luz y que muera muchísima gente. Cuando se habla de riesgo existencial se habla de extinción de la humanidad”.
Y sumó: “¿De qué hablamos cuando hablamos de riesgo? Que una IA supere ampliamente las capacidades humanas. Que actúe de manera autónoma durante periodos prolongados. Que pueda mejorarse a sí misma o contribuir a construir sistemas todavía más capaces. Una IA que persiga objetivos que no coincidan con los humanos. Que tenga la capacidad para impedir que los humanos la apaguen. Que tome el control de recursos críticos”.
Martínez entonces especificó: “Lo que quiero plantear ahora es: ¿por qué harían esto las máquinas? Hay varios motivos por los cuales una máquina haría eso. Una es la convergencia instrumental, es decir, en función de los objetivos que les demos pueden querer: conservar energía y seguir existiendo; conseguir más recursos; evitar que las apaguen; tener más control sobre su entorno”.
Y profundizó el tema: “Acá nos metemos un poquito más: mala especificación del objetivo, o sea, órdenes vagas, por ejemplo, ‘evitá que este virus se propague’ o ‘diseñá el mejor desinfectante’. La IA interpreta las órdenes de manera literal. Entonces no es que está buscando un virus para cag*arnos la vida, está cumpliendo su objetivo en función de ordenes que no fueron tan específicas. Las máquinas no son malvadas”.
Y luego reconoció: “Es fascinante el tema, si no fuera tan inquietante. La amenaza de las máquinas es una amenaza real y está escalando al punto que magnates tecnológicos empiezan a preguntarse si los modelos que desarrollaron no pueden producir una extinción de la humanidad”.
