En 2016, el 23 de marzo, se lanzó un programa de IA para simular la conversación humana por una importante empresa de software estadounidense a través de la red social Twitter. El Talkbot fue diseñado para imitar patrones del lenguaje en Internet de una chica inocente de 19 años y se presentó como un experimento para comprender mejor cómo hablan los humanos y se relacionan en las redes. La calidad de sus interacciones - debían ser amables e informales. La IA aprendería de los humanos. Fue creada para volverse progresivamente más inteligente. El experimento se realizó según lo diseñado. El robot, efectivamente aprendió, pero no como se pretendía. La capacidad del bot de "repite conmigo" la hizo vulnerable ante los humanos, permitiendo a los usuarios de Twitter afectar sus tuits. Sus publicaciones se volvieron ofensivas, racistas y odiosas. Después de más de cincuenta mil seguidores y casi cien mil tuits, la empresa de software se vio obligada a desactivar el bot. En menos de un día, sus publicaciones se eliminaron. Los humanos deben tener cuidado de lo que enseñan a la IA o un día, nosotros seremos los eliminados.
El arranque de “Rm9sbG93ZXJz”, séptimo episodio de la undécima temporada de “Expediente X”, nos deja claro la sensación de ese tono cercano a “Black Mirror” que se ha impuesto en esta supuesta entrega de despedida. Nos encontramos ante otro capítulo notable que ejerce como una fábula sobre los peligros de la IA y en el que los diálogos son mínimos para optimizar su discurso. La idea es integrarnos ya en un mundo cercano en el que tengamos restaurantes (de sushi) completamente automatizados y en el que las máquinas sean reflejos de la humanidad. Un fallo, con un chiste gracias a un pedido erróneo para Mulder con un pez globo, genera que el compañero de Scully decida no dejar propina y comience el principio del fin. ¿Cómo poder tratar un asunto ‘humano’ con robots que son simples operarios al servicio de los humanos? Pensemos en que “The X-Files” articula una crítica sobre el mundo automatizado en el que se ha convertido el consumismo y deshumanización de la civilización. Esos chefs, molestos por la intrusión de Mulder, son parte de una cadena de actos catastróficos una vez que la tarjeta de crédito queda atrapada en el restaurante ante la ausencia de propina del agente del FBI. Sabemos que ese acto es piedra angular de un episodio en el que la falta de comunicación entre máquinas, inteligencias artificiales y seres humanos. ¿Es el fin o, por el contrario, se trata del principio para replantearnos la necesidad de ser mejores profesores para ese futuro que nos aguarda?
La cuestión es seguir las aventuras de Mulder y Scully con dispositivos inteligentes, drones, vehículos automatizados y toda clase de tecnología que parece en contra de ellos desde que Fox no dejara la propina en el restaurante. Entre alarmas computarizadas y una gran conspiración tecnológica puesta en marcha, la idea es que veamos cómo este nuevo mundo de inteligencias artificiales que gobiernan nuestras vidas han tomado el control de las mismas. Ya no sabemos si nos quieran ayudar o, por el contrario, someternos. Con esa alegoría del mundo de centralitas que se ha deshumanizado por completo, “Rm9sbG93ZXJz”, traza un hábil —aunque previsible— argumento para que Dana y Fox acaben encontrándose y salvándose el uno al otro de esa rebelión de las maquinas en su contra por no establecer un feedback apropiado con ese nuevo orden virtual. ¿Crees lo que quieres o crees lo que es verdad? Es cierto que el clímax lo establece esa pieza que esperábamos: Mulder y Scully se someten a ese reino en el que las máquinas y los robots industriales dictaminan el camino. Fox pagará la propina y la amenaza se retirara… ¿para siempre? Tal vez el contraste del desenlace con el arranque nos arrastre a otro concepto de restaurante. Ese choque entre futuro y pasado nos recuerda aquello que podemos perder en ese trato deshumanizado si nos sometemos a los dispositivos inteligentes. ¿Nos queda el dinero de papel y el contacto con otros seres humanos? ¿Debemos reflexionar sobre la capacidad de disfrutar de nosotros mismos?
La cuestión es seguir las aventuras de Mulder y Scully con dispositivos inteligentes, drones, vehículos automatizados y toda clase de tecnología que parece en contra de ellos desde que Fox no dejara la propina en el restaurante. Entre alarmas computarizadas y una gran conspiración tecnológica puesta en marcha, la idea es que veamos cómo este nuevo mundo de inteligencias artificiales que gobiernan nuestras vidas han tomado el control de las mismas. Ya no sabemos si nos quieran ayudar o, por el contrario, someternos. Con esa alegoría del mundo de centralitas que se ha deshumanizado por completo, “Rm9sbG93ZXJz”, traza un hábil —aunque previsible— argumento para que Dana y Fox acaben encontrándose y salvándose el uno al otro de esa rebelión de las maquinas en su contra por no establecer un feedback apropiado con ese nuevo orden virtual. ¿Crees lo que quieres o crees lo que es verdad? Es cierto que el clímax lo establece esa pieza que esperábamos: Mulder y Scully se someten a ese reino en el que las máquinas y los robots industriales dictaminan el camino. Fox pagará la propina y la amenaza se retirara… ¿para siempre? Tal vez el contraste del desenlace con el arranque nos arrastre a otro concepto de restaurante. Ese choque entre futuro y pasado nos recuerda aquello que podemos perder en ese trato deshumanizado si nos sometemos a los dispositivos inteligentes. ¿Nos queda el dinero de papel y el contacto con otros seres humanos? ¿Debemos reflexionar sobre la capacidad de disfrutar de nosotros mismos?
Historias Bastardas Extraordinarias by Maldito Bastardo is licensed under a Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0 Internacional License.
No hay comentarios:
Publicar un comentario en la entrada (lea antes los Mandamientos de este blog)
Lea antes los Mandamientos de este blog.