Новый метод «векторов личности» поможет управлять поведением искусственного интеллекта

Cuando Alicia, de Lewis Carroll, mira a través del espejo reconoce una habitación muy parecida a la suya. Entonces atraviesa el cristal y encuentra un mundo que se parece al suyo, pero no es el suyo. Algo similar ocurre al conversar con una inteligencia artificial (IA): hay algo ahí de nuestro mundo, en las huellas que hemos dejado en el lenguaje, pero no es nuestro mundo. Ese otro mundo al otro lado del espejo se construyó a partir de un modelo entrenado con miles de millones de palabras y sus relaciones. De literatura y de conversaciones en línea. De código de programación y de poesía. Un insumo que, hasta hace poco, sólo podíamos producir nosotros, los seres humanos. Escribimos unas palabras y esperamos una respuesta. Cuando llega, reconocemos algo nuestro en ella, aunque no sepamos bien cuánto pusimos nosotros y cuánto estaba ya del otro lado. Quizás por eso conversar con una IA pueda sentirse como mirarnos en un falso espejo. Ese reflejo es un festín para la curiosidad. Habla como nosotros. ¿Será que entiende el mundo como nosotros? Se creía que, para hacerla útil, bastaba con moldear su comportamiento con unas instrucciones simples: “actúa como un diseñador” o “redacta de manera cortés”. Sin embargo, la evidencia reciente sugiere que no bastan para asegurar, de forma estable, el comportamiento que buscamos. Para intentar domar a la IA, ha surgido una estrategia fascinante: los vectores de direccionamiento. Imagina que se presentan a la IA ejemplos opuestos, como “sé amable” y “sé hostil”, y se registran las huellas que dejan en su interior. Al compararlas, nos queda una especie de brújula que apunta hacia ese rasgo específico. Investigadores de Anthropic han usado esta idea para identificar los llamados ‘persona vectors’, asociados a ciertos rasgos de personalidad. Me tomo la licencia de proponer vectores con una personalidad más profunda. Pensemos, por ejemplo, en un vector de Úrsula Iguarán, de García Márquez; o de Elizabeth Bennet, de Jane Austen. Son personajes cuyas contradicciones, decisiones y errores quedaron registrados en cientos de páginas de experiencia humana destilada. Se trata de una representación mucho más rica que un adjetivo plano y aburrido como ‘amable’. Quizás para entender lo que hay al otro lado del espejo tengamos que volver a la literatura, a esos personajes que inventamos durante siglos para tratar de comprendernos. Ante máquinas tan nuevas, tendremos que atravesar una vez más el espejo de Alicia. Las opiniones aquí expresadas no comprometen a la UTB ni a sus directivos. *Profesor de la Escuela de Ingeniería, Arquitectura y Diseño, UTB.