11/Julio/2025 P A CDMX: 14° EDOMEX: 11° PUE: 10° HID: 7° MOR: 17° QUER: 11° TLAX: 9° 9 y 0

Foto: Internet

Facebook perdió el control de un sistema de inteligencia artificial

Redacción 2017-07-31 - 10:51:49

La inteligencia artificial y el machine learning (aprendizaje de las máquinas) son las dos columnas de la computación actual. Y Facebook no escapa a esa tendencia. De hecho tiene una división especializada en el desarrollo de inteligencia artificial.

En ese departamento se creó un sistema pensado para llevar adelante negociaciones. Pero apenas unos días después de su lanzamiento, el programa comenzó a hablar en un lenguaje ininteligible para sus desarrolladores.

La inteligencia artificial consistía en dos agentes virtuales, llamados Bob y Alice, que comenzaron a conversar en un lenguaje propio que, al parecer, consideraban más efectivo para cumplir sus objetivos.

-Bob: "I can i i everything else"

-Alice: "balls have zero to me to me to me to me to me to me to me to"

Esto que parece un sinsentido, en realidad exhibe un patrón, según identificaron los desarrolladores a cargo del proyecto. El "yo" y "a mí" fueron utilizados para representar lo que se obtendría en un intercambio potencial.

"No establecimos una recompensa para que el sistema decidiera seguir usando el inglés", expuso el investigador y miembro del grupo de investigadores de Inteligencia artificial de Facebook (FAIR, por sus siglas en inglés), Dhruv Batra.

El principal problema para los expertos es que si ese nuevo sistema resulta imposible de comprender, se afectaría el futuro desarrollo de otras tecnologías.

En síntesis, la máquina quedó fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma. 

No es la primera ocasión que algo así sucede. El año pasado se supo que un sistema de IA de Google generó su propia forma de comunicación, tal como ocurrió ahora.

Hace unos días Elon Musk y Mark Zuckerberg compartieron sus puntos de vista sobre el avance de la inteligencia artificial. Musk advirtió que es necesario regular este tipo de tecnología porque de no hacerlo podría ser catastrófico. Zuckerberg criticó esa visión apocalíptica y hasta tildó de "irresponsables" a quienes sostienen esa postura.