Globedia.com

×
×

Error de autenticación

Ha habido un problema a la hora de conectarse a la red social. Por favor intentalo de nuevo

Si el problema persiste, nos lo puedes decir AQUÍ

×
cross

Suscribete para recibir las noticias más relevantes

×
Recibir alertas

¿Quieres recibir una notificación por email cada vez que 20minutos.es escriba una noticia?

OpenAI muestra lo sencillo que es engañar a una inteligencia artificial

11/03/2021 07:56 0 Comentarios Lectura: ( palabras)

Hace unos meses OpenAI presentó CLIP, una inteligencia artificial capaz de identificar objetos. CLIP ha desarrollado un sistema neuronal muy similar al que usamos los humanos, pero lo realmente importante que OpenAI quiere demostrar es lo absurdamente sencillo que resulta engañar a este equipo.

Este descubrimiento es muy importante porque OpenAI encontró que CLIP había sido capaz de desarrollar sus propias neuronas multimodales sin haber sido programada para ello. Es por eso que puede ser engañada. Un ejemplo con Spiderman: tras analizar miles de fotografías, cuando ve una foto o dibujo de este personaje o la palabra 'spider', automáticamente lo asocia con Spiderman.

Otro ejemplo de neurona multimodal es el concepto de iPod o el símbolo $$$, tal y como vemos en la imagen superior: cuando ponemos $$$ por toda la imagen, la inteligencia artificial se confunde y el porcentaje de los resultados se ve modificado marcando en todas las fotos piggy bank (hucha con forma de cerdo) aunque no lo sean.

A pesar de que esta función pueda servir como un divertido experimento, se han observado neuronas en las que asocia a Oriente Medio con el terrorismo y la inmigración con Latinoamérica. También se ha encontrado una neurona que reconoce a los gorilas como personas negras. Estos errores se consideran como inaceptables, y según el propio artículo de OpenAI todas sus debilidades necesitan corregirse de inmediato y pronto se pondrán en ello.

OpenAI Es una organización centrada en la investigación y desarrollo de proyectos relacionados con la inteligencia artificial, cofundada por Elon Musk con el objetivo de poder crear una inteligencia ética que trabaje para el beneficio de toda la población. La demostración de este sencillo engaño resulta impactante, ya que nos demuestra lo simple que es manipular algo cuando se descubre una debilidad y explotarlo al máximo.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.


Sobre esta noticia

Autor:
20minutos.es (15628 noticias)
Fuente:
20minutos.es
Visitas:
1318
Licencia:
Creative Commons License
¿Problemas con esta noticia?
×
Denunciar esta noticia por

Denunciar

Comentarios

Aún no hay comentarios en esta noticia.