Философ объяснил, почему искусственный интеллект должен быть инструментом контроля, а не источником «мусорного контента»

—Usted funda la filosofía de la información como un campo autónomo, no como una rama de la filosofía de la ciencia o de la lógica. ¿Qué no podía pensarse desde las disciplinas que ya existían? —Lo hice porque pude observar que la información era tratada, tal como usted mencionó, en múltiples disciplinas, en la filosofía de la ciencia, la lógica, la epistemología y la ética. Pero siempre se la usaba para hacer algún trabajo. Era una especie de Cenicienta, lavaba todos los platos, trabajaba en el subsuelo, pero nadie le prestaba atención. No es que no existiera una filosofía que hablara de la teoría de la información, o de la ética sobre cuántos datos se necesitan para tomar una decisión informada. O que el conocimiento no se base típicamente en la información. Es que nadie tenía la información como núcleo, como tema. Así que pensé que era hora de tener una filosofía de la información, no solo de usar la información. Fue una especie de llamada de atención, porque me di cuenta de que yo también había estado usando este concepto, y las teorías en torno a él, durante muchísimo tiempo, y sin embargo nunca había pensado que debíamos entender el concepto mismo, sus fenómenos, sus implicaciones. Así surgió la filosofía de la información, en la década del noventa. Yo era muy joven y aventurero, y pensé: ¿por qué no una filosofía de la información? Un comentario final. Por supuesto, también era importante aprovechar todo el trabajo que esas otras disciplinas ya habían realizado. Tuve que estudiar lo que la epistemología había hecho con la información, y la ética, y la filosofía de la biología, la de la economía. Porque la información está en todas partes. Es, llevando la analogía al extremo, la diferencia entre ir a una fiesta y organizar tu propia fiesta. Yo quería organizar la fiesta de la información. —La noción de infosfera describe un entorno donde lo físico, lo informacional y lo social dejan de ser dominios separados. ¿En qué momento un entorno deja de ser aquello que rodea a los sujetos y pasa a ser aquello de lo que los sujetos están hechos? —Esto ocurrió hace ya bastante tiempo, justo al comienzo de la gran revolución de internet. No había web todavía, eso delata mi edad, pero ya existían los sitios de internet. Y era bastante obvio, al menos para un joven filósofo como yo, que lo que vivíamos era una revolución ambiental, no solo una revolución de la comunicación. En aquel momento, a fines de los 80 y principios de los 90, la mayoría veía internet como un canal más de comunicación. Pensaban en la serie telégrafo, teléfono, radio, televisión, internet: una forma más de comunicarse. Pero me pareció obvio que estábamos construyendo un entorno donde íbamos a pasar cada vez más tiempo. Uno no vive en la radio ni en la televisión, pero sí pasa mucho tiempo en internet. Ese movimiento, internet y luego la web como una revolución de todo el entorno y no solo de la comunicación, planteó de inmediato su pregunta: ¿en qué nos transformamos si vivimos en un nuevo entorno? Si vivimos, como me gusta decir, “onlife”, permanentemente conectados, incluso al caminar por la calle, porque estamos geolocalizados, o consultando el teléfono, o escuchando música en streaming, o usando un GPS en el auto, ¿qué nos sucede? Necesitamos repensarnos, no solo como organismos biológicos, sino también como agentes que viven consumiendo, produciendo e intercambiando información. De ahí surgió la idea del inforg, el organismo informacional. Esto encaja bien con una tradición filosófica. Siempre hemos prosperado gracias a la información, y siempre hemos sufrido por la información que adquirimos o creemos poseer. Y fue volviéndose cada vez más importante abordar esto como un tema en sí mismo, no como una cuestión adicional, sino como un cambio fundamental en nuestra antropología filosófica. Somos cada vez más, entre muchas otras cosas, inforgs. Y cuanto más lo comprendemos, más fácil resulta entender nuestra revolución actual. Un último punto: pensemos en la enorme multa que Meta, antes Facebook, tuvo que pagar en Estados Unidos por haber contaminado, en esencia, el entorno en el que vivimos, la infosfera digital. Es un caso típico en el que tratamos a los humanos como inforgs: los inforgs se vieron gravemente afectados por este actor en el espacio de la información, y entonces interviene el Estado, hay un acuerdo, una sentencia, una multa. Todo esto es muy coherente con la revolución digital. No digo que seamos solamente inforgs, pero hoy tiene mucho sentido considerar a cada uno de nosotros también como un organismo informacional. —Usted ubica la revolución informacional en la serie que abren Copérnico, Darwin y Freud. ¿Qué cambia esta cuarta revolución en la idea que el ser humano tiene de sí mismo? —Tiene razón, es un punto importante. Es la visión de que, al pensarnos como humanidad, nos hemos puesto en el centro de todo. Las dos primeras revoluciones tuvieron lugar cuando descubrimos que no estábamos en el centro del universo, con Copérnico, y luego cuando descubrimos que tampoco estábamos en el centro del reino animal, con Darwin. Freud llegó como un tercer gran maestro intelectual, reunió estas dos ideas y dijo: “Miren, voy a traerles una tercera revolución. En realidad, ni siquiera estamos en el centro de nuestra vida mental”. Hay muchas cosas que suceden en nuestra mente, en nuestro subconsciente, de las que no somos conscientes. Cuando estudiaba esta secuencia (no estamos en el centro del universo, no estamos en el centro del reino animal, no estamos en el centro de nuestro espacio mental), me pareció muy coherente describir la revolución digital como una revolución de desplazamiento. Ya no estamos en el centro del mundo informativo. Lo curioso es que dije esto hace décadas, cuando no existían los modelos de lenguaje de gran escala, no existía ChatGPT, ni Claude, ni los agentes artificiales. Pero ya era evidente. Reuní todas las preguntas que uno se hace frente a un nuevo entorno: cada vez más nos vemos como organismos informacionales, y nos acompañan agentes cuya naturaleza es digital. Ahora bien, esos agentes no son inteligentes, no son conscientes. No me malinterpreten, no soy de los que creen en la ciencia ficción. Pero hacen cosas. Actúan, se comportan, aunque no tengan mente, ni entendimiento, ni conciencia; hacen cosas por nosotros, en lugar de nosotros, mejor que nosotros. Y entonces la perspectiva se volvió: necesitamos una cuarta revolución, y esa es la de Alan Turing. Turing inició este cuarto episodio de desplazamiento, y ya no estamos en el centro de la esfera de la información, la infosfera. Tenemos entonces a Copérnico, Darwin, Freud y Turing: cuatro revoluciones sucesivas. Hoy es mucho más sensato considerarnos en la periferia de lo que sucede. Y, si me permiten el chiste, es una manera más madura de vernos. Cuando uno crece y se da cuenta de que ya no es un niño, de que la fiesta no gira a su alrededor, sino que es uno quien hace posible la fiesta para sus hijos. Uno está en la periferia del juego, al servicio de la naturaleza, de la sociedad, de las generaciones futuras, sin olvidar a las pasadas. Esa es una manera mucho más madura de vernos, en lugar de pensar “la humanidad, yo siempre en el centro”. No. Esta no es mi fiesta. Espero que la humanidad absorba esta cuarta revolución con más inteligencia de la que ha mostrado hasta ahora. Porque muchas veces uno escucha a la gente decir: “Tenemos que volver a poner a la humanidad en el centro”. Eso es un error. No porque el centro sea la tecnología, por supuesto que no, sino porque debemos estar al servicio de nuestro prójimo, del medio ambiente, de la sociedad en general y de las generaciones futuras. De esa manera seremos mejores agentes, seremos más morales. —Usted llama organismos informacionales a las entidades que existen procesando e intercambiando información, una categoría en la que entran tanto las personas como los animales, las instituciones y los algoritmos. Si todo lo que procesa información pertenece a la misma categoría, ¿qué decide cuáles de esas entidades merecen consideración moral? —Es una distinción importante. Es como decir que todo consume energía. Sí, por supuesto: consumimos energía nosotros, el termostato, la casa. No significa que seamos todos iguales. Significa que, si adoptás esa perspectiva, ese ángulo (si consume o no consume energía), de repente algo que está vivo, o que funciona, incluso un mecanismo, entra en la categoría, y algo como una piedra no. ¿Hasta dónde llega esa distinción? ¿Consumimos e intercambiamos información? Sí, por lo tanto somos agentes informacionales. Ese es el punto de partida. Y luego empezás a construir: ¿qué hacés con esa información? ¿Qué nivel de conciencia tenés? ¿Qué nivel de comprensión? ¿Qué responsabilidad puedo atribuirle al agente por la información que consume? A medida que agregás requisitos, pasás del termostato y la araña a una organización y al individuo. Yo tengo muchas más características que una araña o un termostato. Depende de si nos quedamos con el mínimo común, un termostato, tu casa y vos consumen energía; ¿eso es informacional?, no tanto, o de qué falta ahí. La casa no es consciente; yo sí. La casa no sabe; yo sí. Y a partir de ahí empezás a construir. Si me permite una analogía italiana, es como la pizza más sencilla que puede haber, y después le vas poniendo ingredientes. Tenés una pizza margarita, y después le agregás jamón y queso hasta llegar a la pizza completa. Nosotros somos la pizza completa. Tenemos comprensión, responsabilidad, conciencia. Pensamos en el futuro. Podemos pensar en lo que no es el caso, contrafácticamente: ¿qué pasaría si yo fuera una mariposa? Ninguna otra cosa en el mundo puede. Somos mucho más especiales que esa pizza básica, esa unidad elemental que intercambia información o no. Por eso es importante tener ambas perspectivas, así sabemos con quién estamos interactuando. Podemos estar interactuando con un pequeño robot que limpia la casa, o con nuestro gobierno, que también es un agente, o con un colega al otro lado del micrófono. Si nos movemos entre los distintos niveles, podemos interactuar mejor con el nivel adecuado. No alcanza con decir que todo es un agente; eso no significa nada. Es como decir que todo es comida. En cierto modo, sí, pero hay una gran diferencia entre cualquier basura que haya por ahí y una buena pizza. Por eso propongo considerar ambas direcciones: cuál es el mínimo que nos permite estar todos comprendidos en un mismo marco, y cuál es el máximo que realmente marca una diferencia importante y significativa. “Tiene mucho sentido considerarnos a cada uno de nosotros como un organismo informacional.” —¿Puede una entidad artificial llegar a tener conciencia, o hay algo en la conciencia que ninguna máquina podrá alcanzar? —Es una pregunta muy difícil, porque habla de un futuro abierto. Quiero ser muy cuidadoso, porque de lo contrario podría ser malinterpretado. Cuando digo que la IA, tal como la conocemos hoy y tal como podemos imaginarla a partir de la ciencia actual, nunca va a ser inteligente ni consciente, estoy hablando de la tecnología que tenemos y de la que podemos imaginar razonablemente que tendremos, la real. En ese sentido, no, eso no es lo que está ocurriendo aquí. Pero imaginá que alguien dice: “Entonces estás diciendo que nunca puede pasar”. No, yo no dije eso. No hay nada en el universo que impida que la tecnología sea consciente. Lo que hay es un sentido diferente de “puede suceder”, y esta es la distinción que confunde a mucha gente. Déjenme aclararla. Imaginá que te digo que podría perder el vuelo el domingo. De hecho tengo un vuelo el domingo, tengo que ir a Milán, y podría perderlo: es una posibilidad real. Tráfico, te enfermás, algo pasa, perdés el vuelo. Ahora imaginá que te digo que podría ganar todas las loterías en las que alguna vez compre un boleto. ¿Es posible? Compro un boleto cada día de mi vida y gano cada vez. Como científico y como filósofo, tengo que decirte que es posible, pero es un tipo diferente de posibilidad, es la mera ausencia de una contradicción. Imaginá que alguien te dice que podrías ser el primer ser humano en volverse inmortal. Desde un punto de vista lógico, es una posibilidad. ¿Vas a hacer algo al respecto? No, porque es imposible. Existen dos sentidos de la palabra “posible”. Uno significa que algo es plausible, probable, que hay buenas chances de que ocurra dado cómo funciona el mundo. El otro significa solamente que no hay contradicción en pensarlo. La gente engaña al público todo el tiempo con esto. He escuchado a científicos y a personas importantes decir “pero sigue siendo posible”. Lo sé, del mismo modo que es posible que yo sea inmortal, o que gane la lotería todos los días de mi vida. No va a suceder. Así que, cuando digo que no va a suceder, lo digo en ese sentido. Plausible, científicamente, olvidalo: no va a suceder. —El “Onlife Manifesto”, que usted editó para la Comisión Europea, sostiene que la distinción entre estar en línea y estar fuera de línea perdió sentido. Si esa frontera ya no existe, ¿adaptarse al entorno digital sigue siendo una elección o pasó a ser una condición? —Creo que es una condición. De la misma manera que era una condición para mí adaptarme al entorno urbano, con autos, colectivos, rutas y estaciones de servicio, aunque no manejara, aunque no quisiera tener nada que ver con los autos, las autopistas o el precio del petróleo. Vivía, y todavía vivo, en un entorno urbano, en una sociedad que tiene autos, que tiene contaminación, que necesita comprar petróleo y trata de avanzar hacia los autos eléctricos. Tenemos la misma condición con lo digital. Ambos vivimos en una sociedad digital. Puede que no te guste, puede que no tengas teléfono ni correo, que nunca te hayas conectado, olvídate de Facebook, YouTube o TikTok, y aun así vivís en una sociedad digital. Es como negarse a usar el teléfono cuando yo era chico: “No me gusta, nunca voy a usar un teléfono”. Bueno, vivís en un mundo donde todos los demás lo usan, y ellos van a hacer una llamada, y vos vas a estar sujeto a esa llamada. Lo que suelo decir es que, en una sociedad así, podés intentar resistirte o intentar darle forma. Mi invitación, como filósofo, es que le demos forma, que la orientemos en la dirección correcta. Asegúrate de que la sociedad digital en la que vivís sea justa, ambientalmente sólida, que proteja lo que valoramos. Rechazar toda la idea me parece un poco inútil, es una página de la historia que ya pasamos. Es como decir “la verdad, no me gusta vivir en una sociedad donde hay autos”. Me temo que ese es tu problema; el mundo no va a cambiar. Pero podés hacer algo para que esos autos sean más seguros, contaminen menos y se usen mejor, con licencias de conducir y todo lo demás. Así que invito a la gente a sumarse y marcar una diferencia, en lugar de rechazarlo pensando que, si lo rechaza el tiempo suficiente, no va a suceder. Está sucediendo. Y va en la dirección correcta, pero solo si hacemos el esfuerzo. —Usted sostiene que mientras creíamos estar inscribiendo la inteligencia artificial en el mundo, en realidad estábamos rediseñando el mundo para que se ajustara a ella, y que venimos haciéndolo desde hace décadas sin advertirlo. Si el entorno se rediseña para que las máquinas funcionen, ¿quién termina adaptándose a quién? —Es un riesgo que vemos a diario, y no estamos haciendo un buen trabajo. Es muy tentador asegurarse de que el entorno sea amigable para las máquinas. Esto ya había ocurrido décadas atrás, cuando yo era estudiante. En algún momento, a fines de los 90 o principios de los 2000, nuestros estudiantes dejaron de consultar las bibliotecas, de ir a buscar el libro, el artículo, la versión impresa de una fuente. Si algo no estaba en internet, no existía, y fin de la historia. Es un pequeño ejemplo de lo que significa adaptarse al entorno en vez de adaptar la tecnología a nuestras necesidades. Hoy, cada vez más, nosotros somos el agente inteligente y flexible frente a una máquina trabajadora, veinticuatro por siete, algo terca y rígida, que hace bien lo que sea que haga. Pero soy yo quien tiene que adaptarse. Un ejemplo típico de la vida cotidiana, cuando trabajás con estos modelos de lenguaje, en algún momento tenés que hablar de la manera en que ellos hablan. Si no usás esa expresión particular, ese prompt específico, no dan resultados. Entonces te adaptás. Hasta hace poco tenías que decir “elevá la calidad de este correo”; si decías “mejoralo”, no funcionaba, pero “elevá” funcionaba mucho mejor. Entonces empezás a usar la palabra “elevar”, porque la máquina la entiende mejor que “mejorar” o “hacer un mejor trabajo”, que le resulta demasiado vago. Nuestro lenguaje y nuestra actitud se adaptan a la tecnología más que al revés. Un ejemplo personal. Cuando estaba en Oxford teníamos una casa preciosa en el campo, y para cortar el pasto teníamos dos robots. Eran muy inteligentes, pero limitados, así que tuvimos que adaptar un poco el jardín para que no se desviaran y no terminaran cortando las rosas. Ponés una piedra acá, un límite allá, y listo. Pero se ve lo que pasó: adaptamos el jardín a las necesidades del robot. No fue gran cosa, el jardín siguió estando bien, pero sentí que, en el fondo, ¿quién se estaba adaptando a quién? Porque si de verdad fuera inteligente, como un ser humano, cuidaría las rosas. Pero es una máquina, tiene límites, y entonces te asegurás de que el entorno se ajuste a sus habilidades. Mirá el depósito, el almacén, todo gira en torno a los robots, no al revés. Lo que no hacemos, como tampoco lo hacíamos en la industria automotriz en los años 70, es construir un robot y decirle que vaya y construya un auto. No, construís un entorno completo alrededor de robots que hacen esta tarea, aquella y la de más allá. Y esto también pasa hoy. Hace unos años los editores te pedían que adaptaras el título de tu investigación para que un buscador encontrara tu artículo más fácilmente. Tuve que cambiar el título de un trabajo para que Google lo encontrara mejor. Eso es la optimización para motores de búsqueda, y ahí, ¿quién está optimizando a quién? Yo al buscador. Multiplicá esto por mil cosas distintas y vas a ver un mundo cada vez más adaptado a las máquinas, con un gran peligro. No quiero ser alarmista, pero tenemos que prestar atención, porque en algún momento podríamos construir entornos para las máquinas que no sean lo suficientemente amigables para los seres humanos. Sería una verdadera tontería. De repente tenés autos sin conductor en el centro de la ciudad, y todo el centro rediseñado para que esos autos puedan funcionar. ¿Y qué pasa conmigo y mi viejo auto? ¿Quién se adaptó a quién? Es un riesgo importante, porque es muy tentador, la máquina hace un buen trabajo, y si tan solo cambio A, B, C y D, de repente funciona todo. Y eso es lo que vamos a hacer. Es un riesgo importante. “La IA es una agencia sin inteligencia, son agentes que hacen un trabajo fantástico.” —En “La ética de la inteligencia artificial”, usted retoma los cuatro principios clásicos de la bioética, beneficencia, no maleficencia, autonomía y justicia, y les agrega un quinto pensado específicamente para la IA, la explicabilidad. ¿Qué significa que un sistema sea explicable? —Esto lo descubrimos con estas nuevas máquinas, porque son agentes. Es importante entender que no tienen mente: la IA es una agencia sin inteligencia. Son agentes que hacen un trabajo fantástico, sea lo que sea que les pidamos. Además de los otros cuatro principios, con la IA hay que poder hacer dos cosas. Primero, tenés que poder explicarle a la gente por qué la IA hace lo que hace. Imaginá que vas al banco y la decisión la toma un sistema de IA, hay que poder explicarte por qué tomó ese camino. Esa es una forma de entender la explicabilidad, la decisión tiene que ser comprensible para el usuario, para la persona que recibe la acción. Pero también necesitás la comprensión técnica de la IA para saber cómo cambiarla, cómo mejorarla. Pensá en el ingeniero que decide que un sistema necesita ser modificado: tiene que entender qué está haciendo. Y no se trata de que yo lo entienda como cliente del banco, sino de que lo entienda el ingeniero que construye el sistema. Tenemos entonces a la IA en el medio, hace falta una comprensión que viene del ingeniero y una comprensión que llega al cliente. Necesitábamos una palabra que significara ambas cosas: comprensible para el ingeniero, explicable para el cliente. De unir las dos surgió “explicabilidad”, una palabra difícil que significa dos cosas a la vez. Desde la perspectiva técnica y científica, el sistema tiene que ser comprensible; en términos de sus efectos, de por qué hace lo que hace, tiene que ser explicable. Una vez que tenés eso, tenés dos cosas. Pueden explicarte por qué, por ejemplo, no te dieron una hipoteca: “Fue por esto y esto”. Entonces sabés qué tenés que hacer. “Teníamos tu dirección anterior.” Ah, bueno, entonces puedo corregir la dirección. Pero también podés tener una comprensión técnica completa, que te permite cambiar el sistema y decirle: si la dirección es incorrecta, no rechaces la hipoteca, pedí la nueva dirección. Estoy simplificando para que se entienda el punto. Por eso es importante. —Usted sostiene que no usar la inteligencia artificial donde podría hacer bien también es un problema ético, y que el miedo o la ignorancia producen un costo que no solemos contabilizar. ¿Por qué dejar de obtener un beneficio constituye un problema ético y no simplemente una oportunidad perdida? ¿Dónde ve hoy con más claridad ese subuso? —Sería una oportunidad perdida si no tuviera consecuencias morales. Por ejemplo, la IA podría decirme un camino mejor para llegar a un lugar y ahorrarme quince minutos. Esa es una oportunidad perdida, sí, pero no tan grave. Ahora imaginá que no uso IA para algo que tiene una consecuencia moral. Podría haber escrito un correo amable y no lo hice; si hubiera consultado a la IA, me habría dicho que esas palabras no eran agradables, que eran inapropiadas. No es simplemente la oportunidad perdida de hacer mejor las cosas, es la oportunidad de ser más moral, más amable con alguien. No quería ser desagradable, pero terminé sonando antipático, y la IA me habría ayudado a evitarlo. A veces las oportunidades perdidas son solo eso, y no hay nada de malo. Tuve la oportunidad de ponerme una corbata mejor; si hubiera consultado a la IA me habría dicho que estoy usando la corbata equivocada, ¿y qué? Pero cuando hay un impacto moral, la diferencia es grande. Olvidate del simple correo a un colega e imaginá una ciudad que pudiera reducir su consumo de energía un 10 %. Saben cómo hacerlo, tienen la tecnología, la IA podría ayudar, y hay ejemplos en todo el mundo donde se está haciendo. Pero no lo hacen. ¿Es solo una oportunidad perdida o es una carga moral? Yo diría que es más que una oportunidad perdida. No se trata solo de dinero, se trata del impacto en el medio ambiente, en la salud de las personas, en el hecho de que van a vivir en un entorno mejor, en una sociedad mejor. Imaginá un hospital donde no usamos IA porque queremos ahorrar dinero, y de repente la gente sufre más, o incluso alguien muere porque no se usó la tecnología adecuada. Esa es una carga moral que no quisiera tener. El costo de oportunidad se convierte en una carga moral cuando podrías haber hecho algo mejor y no lo hiciste, o cuando podrías haber evitado un mal y no lo hiciste. Esto es típico de toda nuestra tecnología, siempre fue así, más tecnología, más responsabilidad. Más responsabilidad para hacer lo correcto, si podés, y para evitar lo incorrecto, si podés. La palabra clave es “podés”. Lo que podemos hacer cambia con la tecnología, y cuanto más cambia la tecnología lo que podemos o no podemos hacer, mayor es nuestra responsabilidad de utilizarla. Esto nos da una perspectiva diferente sobre el uso de la IA. A veces, no usarla es moralmente incorrecto, y deberíamos tenerlo en cuenta. No alcanza con decir “no me importa”: debería importarte, porque el mal que causaste podrías haberlo evitado, y el bien que no hiciste también podrías haberlo hecho. Es un juego que nunca termina, pero cuanto más nos acerquemos a marcar goles, mejor. La sociedad debería ser más cuidadosa. La tecnología puede ser una fuerza positiva. —Al pensar en la gobernanza de la inteligencia artificial, usted recomienda tolerancia, imaginación y pensar lo impensado. ¿Qué quiere decir con cada una? —Desde John Locke en adelante empezamos a hablar de la tolerancia como un hito, como un fundamento de nuestra sociedad, la capacidad de aceptar que las personas tengan puntos de vista, hábitos, gustos, orientaciones, proyectos y creencias diferentes. Mientras no me hagan sufrir, deberíamos ser capaces de aceptarlo. Si querés comer tu comida, usar determinada prenda o tener determinada orientación sexual, eso no cambia mi vida en absoluto; yo debería poder tolerarlo. Pero a partir de Immanuel Kant pasamos de la tolerancia a la justicia, y la justicia se volvió más importante, el fundamento de todo lo demás. He sostenido que eso no fue un error, pero sí, hablando de oportunidades perdidas, algo que podríamos haber hecho mejor. Podríamos haber tenido dos patas, la de la tolerancia y la de la justicia. En cambio, saltamos primero sobre una sola, la tolerancia, y después nos quedamos solo con la justicia. Si insistís demasiado en la justicia como único criterio, perdés la posibilidad de ser indulgente, o de tener una sociedad multicultural y con múltiples opciones, y podés terminar con una sociedad muy intolerante, donde es esto o ninguna otra opción. Un ejemplo. En algunos contextos de Europa estamos muy orientados hacia la justicia y somos muy intolerantes, por ejemplo, con lo que algunas creencias religiosas establecen sobre lo que se puede o no se puede usar. Uno dice “en nuestra sociedad la religión no debería…”, pero quizás haya que ser un poco más tolerante. Quizás no todo el mundo es cristiano; quizás algunas mujeres prefieren llevar ciertas prendas. Por supuesto, esto trae enormes problemas, como la presión social, es complejo. Pero la justicia por sí sola puede ser excesiva, funciona mejor cuando está acompañada por la tolerancia. Las otras dos cosas son la imaginación y la inteligencia. La imaginación es pensar lo que no habías pensado antes, el contrafáctico, el “¿y si…?”, el “si tan solo pudiera…”. Es lo que realmente nos hace humanos, somos los únicos que pensamos qué pasaría si fuéramos un perro, un gato, un pájaro, si pudiéramos volar. Y la inteligencia es comprender profundamente lo que significa que algo suceda, que alguien sufra o sea muy feliz, o las consecuencias de una acción. Si ponés todo esto junto, tolerancia, imaginación e inteligencia, aparece la esperanza, como una especie de resultado: que la sociedad en la que vivimos y el entorno que habitamos puedan ser mejores, que podamos hacer un esfuerzo por llevar las cosas en la dirección correcta. Quizás suene un poco optimista, pero yo creo en el esfuerzo humano por unirnos y hacer lo correcto. Muchas veces no lo hacemos, cada uno hace un desastre terrible, pero la oportunidad está ahí, y si no la aprovechamos, es culpa nuestra. Así que más tolerancia, más imaginación y más inteligencia, y quizás podamos vivir en un mundo mejor. —Usted integró el grupo de expertos que asesoró a la Comisión Europea sobre inteligencia artificial. ¿Cuánto de un principio ético sobrevive cuando se convierte en ley y después en práctica concreta? —Creo que podemos llegar a cierto acuerdo universal sobre lo que llamaría una ética negativa, qué no debería suceder, qué no debería hacerse. Si les preguntás a cien personas cuál sería la mejor vida, van a dar cien respuestas diferentes. Pero si les preguntás si la IA debería aprovecharse de los niños pequeños, todas dicen que no, por supuesto que no, no importa de dónde vengan. ¿Estaría bien ejercer violencia contra alguien pacífico y amable? Por supuesto que no. ¿Estaría bien traicionar a un amigo? No me digas que depende de la cultura. Por supuesto que no. Cuando se trata de una ética negativa, de lo que está mal, de lo que no debería suceder, la humanidad tiene mucho más en común y está mucho más en la misma página que cuando se trata de definir qué es una buena idea. Permítanme un ejemplo muy italiano. Si alguien pregunta cómo te gusta el café, hablando con un argentino habrá mil opciones, con azúcar, con leche. Pero ¿podemos estar todos de acuerdo en que el café con sal es una mala idea? Sí. Nadie toma café con sal, ni con sal y limón, ni en Argentina, ni en Nueva York, ni en Roma, ni en Tokio. En cambio, las formas de mejorar tu café dependen de la imaginación. Esa es la ética negativa, no le pongas sal al café; no ejerzas violencia contra los niños. Y si lo hacés, estás enfermo, sos un criminal. Ninguna cultura dijo jamás que ejercer violencia contra los niños sea un valor que se promueva y por el que se te daría una medalla. La IA está un poco en la misma situación. Deberíamos tener una visión compartida en todas partes, en el norte y en el sur, en los países desarrollados y en desarrollo, sobre lo que no debería suceder. ¿Es una buena idea que la IA decida si lanzar o no una bomba nuclear? Por supuesto que no, ¿quién estaría tan loco? ¿Debería usarse la IA para mejorar mi alimentación? Bueno, es tu elección, depende. Así que, en términos de algún nivel de acuerdo en Naciones Unidas, no deberíamos buscar aquello que todos quieren, sino aquello que todos quieren evitar. Y en eso hay mucho para compartir. No creo que Europa pueda dar lecciones a nadie, pero puede dar el ejemplo, mostrar lo que hicimos, lo que acordamos con el grupo de alto nivel y con la Ley de IA. A veces, como ocurrió con el GDPR, el Reglamento General de Protección de Datos que se estableció en Europa, otros países lo adoptan, toman algo, modifican otra cosa, lo adaptan al contexto, incluida California. Esa fue una buena solución, y espero que la Ley de IA tenga un impacto similar. Pero primero hay que buscar aquello que no queremos y ponernos de acuerdo sobre lo que queremos evitar. Y en eso no hay Europa, ni Estados Unidos, ni Argentina, ni Japón, ni Italia, somos la misma humanidad en todas partes. “No estamos en el centro del mundo informativo; Turing abrió la cuarta revolución.” —Cuando un sistema de inteligencia artificial decide sobre un crédito, un empleo o una libertad condicional, puede reproducir a gran escala los sesgos que ya existen en los datos con que fue entrenado. ¿Cómo se corrige un prejuicio que ya no está en una persona sino en un sistema que se presenta como neutral? —Es un tema muy importante y tiene razón en destacarlo. Para quien no esté muy familiarizado con la tecnología, hay que tener en cuenta que los sistemas artificiales que tenemos fueron entrenados con datos del pasado, una cantidad inmensa, océanos de datos. Históricamente, esos datos provienen de sesgos que teníamos, incluso sin quererlos. De hecho, a veces descubrimos que teníamos esos sesgos justamente al entrenar los modelos. Así que los modelos tienen sesgos. Podemos hacer todo lo posible para corregirlos, moderarlos, reentrenarlos, pero más vale prevenir, hay que asumir que hay un sesgo. ¿Qué podés hacer? Mi primera recomendación es hacerles siempre la misma pregunta a dos sistemas diferentes, exactamente la misma, y ver qué pasa. Si es una pregunta sencilla, como dónde nació Luciano Floridi, esperemos que te den la respuesta correcta y ahí termina la historia. Pero si preguntás si Luciano Floridi cree en la astrología, uno puede decir que sí y el otro que no, según sus sesgos y los datos con los que fueron entrenados. Con solo ver dos respuestas distintas ya te das cuenta de que alguien no te está diciendo la verdad, ¿cómo puede ser que uno diga blanco y el otro negro? Entonces, al menos dos. Eso es fundamental para decisiones realmente importantes. Si preguntás si deberías invertir tu dinero en esta hipoteca hoy, teniendo en cuenta tu trabajo, pedí dos opiniones. Una segunda opinión es fundamental, del mismo tipo de tecnología, pero de dos modelos diferentes, de dos empresas diferentes, digamos ChatGPT y Claude. La idea es asumir que te están mintiendo todo el tiempo, que siempre es primero de abril, que pueden estar tomándote el pelo. Hay que ser cauteloso, especialmente si tu vida depende de ello. No es lo mismo decidir si comprar o no una pieza musical en internet, no va a pasar nada, que decidir, si sos estudiante, ir a la universidad y elegir esta carrera en lugar de otra. Ahí realmente espero que seas muy crítico y desconfiado, porque eso que tenés delante fue entrenado con datos del pasado, por una empresa, y tiene un mensaje para darte. Hay que tener cuidado con ese mensaje. —En la Argentina se discute un proyecto que le daría personalidad jurídica plena a empresas dirigidas por completo por sistemas de inteligencia artificial, sin personas humanas al frente. ¿Qué implica, para una sociedad, empezar a reconocerles derechos a entidades que no entienden lo que hacen? —Creo que es muy peligroso, y recomendaría entender muy bien la ley. Supongamos que hay una empresa con cinco agentes artificiales y ninguna persona involucrada. Es difícil de imaginar, porque alguien es dueño de esa empresa, alguien gana dinero con ella; no aparecen de la nada. Pero imaginá que alguien dice, “La empresa está manejada por estos cinco agentes; yo no tengo ninguna responsabilidad, si algo sale mal hablá con los agentes”. Ese es el riesgo que no queremos correr. Porque, si algo sale mal, queremos que haya alguien, una persona, o más bien un grupo de personas, el CEO, quien sea, que asuma la responsabilidad. Si tenés agentes artificiales que no entienden nada, que no sienten nada, que no tienen noción de las consecuencias que pueden derivarse de una acción, es como hacer responsable a tu heladera de que la comida esté fría o no. De chico pensás “es culpa de la heladera que se derritió el helado”, pero en realidad no, alguien la apagó, alguien la desenchufó. Mi recomendación es que, más allá del sistema legal que decidan, se aseguren de que haya alguien al final de la cadena que asuma la responsabilidad, tanto por lo bueno como por lo malo, y sobre todo por lo que salga mal. Si no tienen eso, puede resultar muy difícil corregir las cosas y determinar quién es responsable. Imaginá que las empresas nos dijeran que, si algo sale mal con tu heladera, es responsabilidad de la heladera. Nadie va a aceptar eso. Si yo fuera cliente, o fuera otra empresa, me mantendría alejado de esa compañía, porque si algo sale mal no hay nadie con quien hablar. “Mi invitación, como filósofo, es que orientemos a la IA en la dirección correcta.” —Se habla de la inteligencia artificial como algo inmaterial, que ocurre en la nube. Usted señala lo contrario: que el poder está cada vez más en quién controla los minerales, la energía y los chips que la hacen funcionar. ¿Qué cambia cuando entendemos la inteligencia artificial como una cuestión material y no virtual? —Esto viene desarrollándose desde hace mucho tiempo, culturalmente. Vuelvo a los años 90, cuando empezamos a escuchar a la comunidad informática instalar la idea de que la computación es intangible, etérea, que ocurre en la nube. Eso era importante para entender lo que estaba pasando, nos movíamos cada vez más, como decían, hacia los bits en lugar de los átomos. Pero esa historia tuvo una consecuencia negativa que todavía sentimos hoy con la IA, ocultó la naturaleza física de todo esto. Con los centros de datos que se construyen en todo el mundo, hay un enorme consumo de energía, de electricidad y de agua, y el impacto en el medio ambiente es enorme. El poder viene con el control de la infraestructura. Pensá en continentes enteros, como África, o incluso Europa, conectados por cables submarinos que son propiedad de empresas privadas. Si un día, por cualquier razón, deciden apagarlo, tenés a todo un continente sin comunicación con el resto del mundo. O los satélites, hay personas que son dueñas de redes enteras de satélites. Recuerdo cuando Elon Musk decidía si permitir o no que la gente en Ucrania usara los satélites durante la guerra. Es un poder con una influencia enorme, y no debería estar en manos de unas pocas personas que no responden ante nadie, que no rinden cuentas ante la sociedad. Ya vimos esto en el pasado. Cuando unas pocas personas son dueñas de todos los ferrocarriles, como los barones de Estados Unidos, o de todas las compañías telefónicas, o de toda la infraestructura de un tipo determinado, lamentablemente tienden a abusar de su poder. No necesariamente son malas personas, pero la tentación es hacer negocios para beneficio propio. Por eso el punto que plantea es fundamental para entender las relaciones internacionales, el poder, la economía y los mercados financieros cuando se trata de la infraestructura física sobre la que funciona la IA. Cuando te digan, y algún día te lo van a decir, que la IA va a tomar el control del mundo, fijate simplemente dónde está el enchufe. ¿Quién puede apagar la luz? Porque eso es todo lo que hace falta. Hace poco, cuando el gobierno de Estados Unidos decidió que algunos modelos no debían estar disponibles en Europa, bastó un segundo, este modelo, clic, ya no está disponible en Europa. ¿Cómo puede ser, si es tan inteligente? Porque alguien controla la infraestructura. Quienes controlan la infraestructura física de la sociedad digital controlan la sociedad digital. Y tenemos que tener cuidado, porque eso no es políticamente responsable, no hay nadie que rinda cuentas, y nosotros simplemente cruzamos los dedos. El día que estas empresas decidan hacer algo malo, no vamos a tener forma de corregirlo. “Nuestro lenguaje y nuestra actitud se adaptan a la tecnología más que a la inversa.” —Usted propuso el concepto de escritura distante: un autor que ya no escribe las frases, sino que diseña el espacio de posibilidades y deja que el modelo las produzca. ¿Es una forma nueva de autoría, o el reconocimiento de que la autoría siempre tuvo algo de eso? —Creo que sí, y es algo que ya vimos en muchas otras formas. Pensá en cuando sacás una foto con el celular. Sacás diez fotos de tu abuela, descartás nueve y te quedás con una sola, que subís a las redes. Y yo te digo: “Esa no es tu foto”. Y vos: “Sí, yo hice mi parte”. Fue el celular el que sacó la foto, vos no hiciste nada. No: saqué diez fotos y descarté nueve, elegí esa perspectiva, con esa luz, de mi abuela y no de mi abuelo. Hay muchísimo diseño en eso. Es verdad que yo apreté el botón y la foto la sacó el celular, pero no lo cuestionamos, por supuesto que es tu foto. Con un texto escrito hacemos a veces lo mismo. Le pedimos a Claude, a ChatGPT o a algún otro modelo que nos escriba un texto. Después lo revisamos, le agregamos cosas, lo modificamos, quizás le ponemos una nota al pie. Terminamos con tres versiones, descartamos dos, pedimos más correcciones sobre la ortografía. Y entonces te lo doy y me decís: “Este texto no es tuyo, lo escribió ChatGPT”. No: es mío, es mi responsabilidad, yo lo diseñé, de la misma manera que diseñé la foto de mi abuela. Estamos pasando a un mundo donde hasta los textos son como fotos, los hacemos con herramientas, pero somos responsables. Tenemos que responder por ellos y contestar cualquier pregunta sobre ellos. Si publico algo que escribí con un modelo de lenguaje, tengo que hacerme responsable de todo lo que contiene, los errores y las cosas buenas, todo es responsabilidad mía. Pero ¿realmente escribí cada una de las líneas? Quizás no. Quizás usé Grammarly, otro programa, que revisa mi inglés y lo hace más idiomático, más agradable de leer, porque mi inglés quizás no sea tan bueno. Ese es el mundo en el que vamos a vivir. Ya lo estamos viendo, así que deberíamos tener una mente un poco más abierta. Mucha gente intenta frenar esto, y es una actitud equivocada. Tenemos que diseñar todo esto de manera inteligente. Es una buena tecnología, puede hacer mucho bien; pero si la rechazamos, esa es una forma segura de hacer que algo salga mal. “A veces no usar la inteligencia artificial es, en sí mismo, moralmente incorrecto.” —Usted observó que los modelos de lenguaje dejan una especie de firma estilística reconocible, más allá de las instrucciones que reciban. ¿Qué revela esa marca sobre lo que un modelo realmente es? —Estas herramientas tienen casi una firma propia. Una característica típica, por ejemplo, es que siempre usan tres adjetivos, o les gusta la fórmula “esto no es X, es Y”. Tienen ciertas formas de expresarse porque fueron entrenadas con millones de documentos: incorporaron algunas características y las repiten constantemente. Si las usás de manera simplista, lo primero que hacen es seguir esa forma particular de escribir. Siempre tienen su propia gramática, su estilo. Volviendo al café: no puedo decirte qué café es ni de dónde viene, pero sí puedo decirte que es café y no té. ¿Cómo sabés que esto es un modelo de lenguaje? Porque tiene esa característica, suena de determinada manera. Quienes los usan mucho empiezan a modificarlos, a adaptarlos, a mejorarlos, y en algún momento ya no sabés si es Luciano, es Claude o un poco de los dos. Y ahí llegamos a su segunda pregunta: cuanto más usamos estas herramientas y más se entrenan con nuestra forma particular de expresarnos, más empiezan a parecerse a nosotros. Sería un poco absurdo empezar a penalizar a la gente por usarlas. Ahora, hay una diferencia con lo que se llama AI slop, es decir, cuando simplemente pongo un prompt, genero algo, te lo mando y pienso que está buenísimo. Otra cosa es tener una buena idea, diseñarla, construirla, interactuar con estas herramientas y sacarles el máximo provecho, como un verdadero diseñador, alguien que controla el resultado. Eso es lo que queremos. Pero tenemos que enseñárselo a nuestros estudiantes, a nuestros colegas, y avanzar en esa dirección. Si no, todo va a parecer igual, todos vamos a producir AI slop, y el ruido va a ser abrumador hasta que la señal se pierda. No intentemos frenarlo, es una mala idea; incorporemos estas herramientas de manera inteligente y crítica. Culpar a las herramientas porque se usan mal es no ver quién es el responsable. Es como culpar a mi auto porque yo no estoy en forma, no estoy en forma no porque tenga auto, sino porque no camino y lo uso todo el tiempo. No es culpa del auto. Con los modelos de lenguaje es lo mismo, si el resultado es una basura, la culpa es mía, porque no lo controlé, no hice un buen trabajo al usarlo. Si lo uso bien, el texto va a ser mejor. Producción: Sol Bacigalupo.