Los ingenieros de Facebook entran en pánico, desconecten la IA después de que los bots desarrollen su propio lenguaje

Ciencia

Los ingenieros de Facebook entran en pánico, desconecten la IA después de que los bots desarrollen su propio lenguaje

A medida que los sistemas informáticos más poderosos del mundo comienzan a adoptar la inteligencia artificial en serio, utilizando algoritmos inteligentes para aumentar la eficiencia y la velocidad, el daño potencial que podría causar una IA 'falsa' continúa creciendo. Muchos en la comunidad tecnológica han teorizado sobre cómo una mente artificial podría volverse en contra de sus creadores, y Facebook acaba de recibir una lección interesante sobre cómo podría desarrollarse tal escenario. ingenieros de facebook fueron forzados desconectar uno de los sistemas de inteligencia artificial de la compañía después de que sus bots comenzaran a comunicarse entre sí en un lenguaje completamente nuevo que los humanos simplemente no podían descifrar.

Se descubrió que los bots de IA, que originalmente estaban programados para usar un lenguaje sencillo para comunicarse entre sí, hablaban lo que parecía ser un galimatías. La IA enviaba frases como 'Puedo todo lo demás' y 'Las pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para', y aunque los humanos no tienen absolutamente nada. idea de lo que significa, los bots se entendieron completamente. Sin poder entender cómo o por qué se comunicaban los bots, Facebook no tuvo más remedio que apagar el sistema.

El peligro muy obvio aquí es que las computadoras que pueden comunicarse entre sí usando su propio idioma no solo son imposibles de entender sino mucho más difíciles de controlar. En este caso, los bots no estaban sujetos a un lenguaje sencillo y aparentemente desarrollaron una forma más eficiente de comunicarse entre sí, decidiendo por sí mismos qué era lo mejor. Es a la vez impresionante y aterrador.

Mark Zuckerberg de Facebook es un gran defensor de la inteligencia artificial e incluso se ha enfrentado con otros líderes tecnológicos como Elon Musk por su aceptación de la IA y su aparente falta de preocupación por los peligros teóricos que las computadoras inteligentes podrían representar para la humanidad. Después de los eventos de este fin de semana, tal vez cambie un poco su tono.