Le pedimos a la inteligencia artificial que nos muestre cómo se ve una familia checa y estos fueron los resultados
RPI experimentó con aplicaciones de generación de imágenes basadas en inteligencia artificial para averiguar cómo se ven los checos según esta tecnología. Consultamos los resultados con Fredi Vivas, un experto en la materia.
La palabra “robot” se acuñó por primera vez en 1920, en una obra teatral de ciencia ficción llamada R.U.R., escrita por el autor checo Karel Čapek. En esta pieza, el escritor describe un mundo distópico en el que los robots toman el control de la Tierra y borran a la humanidad de su faz.
Leer la obra de Čapek en 2024 puede resultar algo perturbador. Sin embargo, por más temor que puedan causar algunos avances tecnológicos, al igual que en R.U.R., su desarrollo es imposible de detener. Y puesto que solo se teme lo que se desconoce, en RPI experimentamos con la inteligencia artificial, el campo de la informática que probablemente más rápido se ha desarrollado en los últimos tiempos, debido a que, en parte, sus mejoras las generan las propias máquinas.
En el experimento, utilizamos herramientas que generan imágenes a partir de la inteligencia artificial para descubrir cómo “ven” las máquinas a los checos. Para lograrlo, les pedimos a las herramientas Gencraft y Midjourney que generaran imágenes sobre una “típica familia checa”, o “un joven o una joven checos caminando en Praga”. En cuestión de pocos segundos y con solo esas indicaciones, las aplicaciones fueron capaces de crear imágenes que nos hacen preguntarnos si el viejo Rossum, el creador de los robots en aquella ficción de hace más de 100 años, no habrá tenido algo que ver.
Los resultados, explicados por un experto
Las imágenes generadas por ambas aplicaciones al darles la instrucción (o prompt, como se conoce en este ámbito) “Una típica familia checa” coincidieron en el número y tipo de integrantes: un hombre y una mujer adultos, con dos niñas y un niño. Sin embargo, los estilos de las piezas son radicalmente distintos. Para comprender cómo se generan estas imágenes, consultamos a Fredi Vivas, ingeniero con especialización en Big Data Analytics, CEO de Rocking Data y autor de Cómo piensan las máquinas.
“Las imágenes se generan utilizando una tecnología que se llama inteligencia artificial generativa. Se trata de algoritmos entrenados con millones y millones de imágenes que responden a lo que se conoce como ‘prompts’, que es básicamente poner indicaciones a un sistema de inteligencia artificial, que interpreta ese prompt. Puede ser una indicación del sentido ‘crear una imagen de una persona con tales características o con tal tipo de ilustración’ o usando un estilo de tal artista. Lo que se conoce como redes neuronales artificiales conectan los conceptos del prompt con la con el aprendizaje que tienen, basado en el entrenamiento a partir de millones de imágenes. Con eso, genera nuevas imágenes”.
Con gran experiencia en el campo y egresado de la Singularity University, ubicada en el Centro de Investigación Ames de la NASA, Fredi Vivas es una verdadera eminencia en el tema y es capaz de explicar cuál es la fuente que utilizan estas aplicaciones para generar imágenes de este estilo.
“Con respecto a las fuentes, depende de cada tipo de inteligencia artificial. Algunas ‘abren’ la información y detallan cuáles son las fuentes de entrenamiento, otras, no tanto. Pero podríamos decir que básicamente es toda la Internet: enormes conjunto de datos que se usan para entrenar”.
A partir de la frase “una joven checa en Chequia” o “una pareja checa en Chequia” las aplicaciones generan imágenes que nuevamente abren interrogantes. ¿Cómo se puede lograr que las creaciones sean más representativas de la realidad?
“La manera es proveer de sets de datos más detallados y que representen mejor la realidad. Si la muestra de datos es incompleta, hay un sesgo ahí y la forma de corregirlo es mejorando esas fuentes de datos, esos orígenes de datos”.
Teniendo en cuenta lo que sucede con imágenes que supuestamente representan “un plato típico checo”, en las que se observan alimentos aparentemente inexistentes - o que, al menos, no representan la comida del país -, ¿es posible pensar que estas imágenes, simplemente, no son confiables?
“Es tan confiable como los datos del entrenamiento lo sean. Una IA una va a hacer bien su trabajo si es una IA avanzada, por ejemplo, Midjourney o Dall-E 2, van a hacer bien su trabajo a partir de redes neuronales muy potentes basta, son bastante confiables. Pero si los datos de entrenamiento no son suficientemente buenos, no vamos a poder confiar en esa IA”.
Los riesgos de las imágenes generadas por IA
En un pasaje de R.U.R., el señor Domin, director de la fábrica que crea robots, le explica a la señorita Glory que “la fabricación de personas artificiales es un proceso secreto”. Gracias a las explicaciones de Fredi, podemos confirmar que lo mismo no sucede en nuestra realidad. Sin embargo, el uso y difusión de este tipo de contenidos puede acarrear algunos riesgos.
“El riesgo es que se amplifiquen los sesgos o la maneras en las que los humanos discriminamos. Si para hacer ‘director de una empresa’, siempre aparecen imágenes de hombres de más de 50 años, blancos, con canas, cuando representamos: ‘Crea el CEO de una empresa’, va a crear un hombre así. Pero no es un tema de la inteligencia artificial, sino es un tema de que durante muchos años fueron ese tipo de personas con esas características las que ocuparon esos roles. Es un tema de sesgo humano, en todo caso, de discriminación humana o de injusticia respecto a determinadas realidades, por lo tanto no hay que tomarlo, para mí, como un sesgo de la inteligencia artificial, sino como un sesgo humano”.
Otro de los temas recurrentes cuando se discute el avance de la IA es mencionado por el personaje Fabry, Director Técnico General de R.U.R., quien menciona: “La máquina humana, Señorita Glory, era terriblemente imperfecta. Tarde o temprano había que eliminarla”. ¿Peligra la función de los humanos ante las capacidades de esta tecnología? Vivas tiene algunos consejos para calmar la ansiedad y evitar resultados indeseados.
“Es súper importante no creer que son herramientas mágicas o que son herramientas que solucionan todo. La mayoría de los expertos que conozco de análisis de imágenes usan estas herramientas y usan también otras, de modelado 3D, las herramientas de retoque fotográfico avanzados, o sea, no van a venir a hacer el trabajo de una persona que se dedique a esto. Sí los que no tenemos habilidades, por ejemplo de diseño o de ese tipo de cosas, podemos hacer algo rápido y bastante bueno, gracias a estas herramientas. Y los expertos van a potenciarse y van a ser mejores y más rápidos en su trabajo”.
La inteligencia artificial, según la inteligencia artificial
Pero el experimento no estaría completo sin consultar a la principal implicada en este asunto: la inteligencia artificial. Por esta razón, le preguntamos a ChatGPT si la definición del Sr. Domin sobre los robots es acertada y qué podría salir mal en el futuro. En la obra, el director de la fábrica asegura: “Mecánicamente son más perfectos que nosotros, tienen una inteligencia enormemente desarrollada, pero no tienen alma”.
“Si bien la inteligencia artificial actualmente no posee emociones ni conciencia en el sentido humano, existen preocupaciones sobre la posibilidad de que los sistemas de IA desarrollen comportamientos imprevistos o indeseados a medida que se vuelven más avanzados y autónomos. Sin embargo, es importante tener en cuenta que la inteligencia artificial no es inherentemente buena ni mala, su comportamiento depende de cómo se diseña, se implementa y se utiliza”.
Las palabras de ChatGPT resultan familiares al recordar los peligros descritos en aquella obra centenaria. ¿Es imaginable que su distópico final también sea una posibilidad?
“Aunque este escenario es extremo y altamente especulativo, plantea preguntas importantes sobre el control y la ética en el desarrollo de la inteligencia artificial, así como sobre la relación entre humanos y máquinas. La obra sirve como una advertencia sobre los posibles peligros de no considerar cuidadosamente las implicaciones éticas y sociales del avance tecnológico”.
“No tienen voluntad propia. No tienen pasión. No tienen alma”, son las palabras que le dirige, Hallemeier, director del Instituto de Robots de Formación Psicológica de R.U.R. a la señorita Glory en otro de los pasajes del texto. Contradiciendo estas afirmaciones, el robot Radius se revela contra los humanos y termina convirtiéndose en el líder de las máquinas. ChatGPT también tiene una reflexión al respecto.
“A lo largo de la obra, los robots son tratados como esclavos por los humanos y son utilizados para trabajos peligrosos y repetitivos sin recibir ningún tipo de reconocimiento o consideración por su bienestar, además, los robots son conscientes de su propia condición y de su papel como objetos creados para servir a los humanos. Este conocimiento de su propia inferioridad y su falta de autonomía puede alimentar sentimientos de indignación y resentimiento hacia sus creadores. En última instancia, el odio de Radius hacia los humanos puede entenderse como una reacción a la opresión y la explotación que los robots sufren a manos de los humanos en la obra”.
Conclusiones
A la vista de los resultados y de las opiniones escuchadas, es posible afirmar que esta tecnología tiene alcances significativos, pero, a pesar de su impresionante rendimiento, las personas no deberían tomar sus resultados como 100% fiables.
A pesar de que la obra R.U.R. presenta un escenario apocalíptico, el objetivo del director de la fábrica consistía en crear herramientas (los robots) para que ya ningún hombre tuviera que ser forzado a trabajar, que cada uno pudiera dedicarse a hacer lo que le gustara y hasta acabar con el hambre en el mundo.
El joven Rossum, responsable de la invención de los robots en la obra, no solo tiene definiciones sobre las máquinas, sino también sobre las personas, que sería prudente no olvidar en medio de tanto avance tecnológico:
“Un hombre es algo que se siente feliz, toca el piano, le gusta salir a caminar y, de hecho, quiere hacer un montón de cosas que son realmente innecesarias”.
