Un conversatorio

Disclaimer: en Noviembre fui invitado a participar en un conversatorio sobre IA para UTEG. Hablé durante dos horas de un montón de estupideces, pero preparé la respuesta a tres de las preguntas.

1. ¿Cómo define usted el uso ético de las herramientas de inteligencia artificial, tanto en el ámbito académico-profesional como en la investigación?

   Cuando hablamos de uso ético de la IA tenemos antes que definir algunas cosas acerca de nuestra ética en general ante el resto de herramientas y acerca de su naturaleza. La IA no hace cosas que no pudiéramos hacer antes, en realidad, por definición no puede hacer cosas que no pudiéramos hacer antes y esto es algo que todos deben de tener presente. La IA es simplemente una innovación de escala. Ahora todas las personas pueden hacerse de una herramienta que les da la habilidad de hacer cosas que ya se podían hacer desde hace décadas, solamente que con menos esfuerzo que entonces. Entonces, preguntémonos, ¿esta es la primer tecnología que viene a hacer por nosotros algo que de todas formas ya podíamos hacer? No. La historia está llena de tecnologías así. Incluso pudiéramos tener la tentación de que la IA es especial porque es una tecnología de “uso general”, algo que ha trascendido como “gpts”, pero quien piense eso debería de preguntarse cuántos puestos de trabajo fueron transformados y ultimadamente automatizados por la computadora. Aún hoy, estoy seguro de que hay más trabajos siendo tomados por la computadora que por la IA: cajeros automáticos en el super, en el banco, dispensadores de comida que ya tenemos normalizados, pases de reconocimiento facial o por tarjeta. La IA es solamente la nueva tecnología de uso general y tendrá asociadas cuestiones éticas similares. Ahora bien, respondiendo a la pregunta, defino el uso ético de las herramientas de IA en el contexto educativo y de investigación igual que con otras tecnologías. Deben de usarse responsablemente, deben de usarse sin intención de dañar y deben de usarse de forma transparente. Igual que stackoverflow, wikipedia, un becario.

2. ¿Qué consejos tiene para nuestros alumnos para usar estas herramientas de forma alineada con los valores institucionales?
   No sé cuáles son esos valores. Pude haberlos googleado, no obstante, pero no lo vi muy necesario. Les diría, muchachos, que la invención del carro no debería ser un pretexto para dejar de aprender a caminar y a correr. La IA ha automatizado algo muy parecido a nuestro proceso de pensamiento, y es tentador usarla para todo. Siempre habrá gente que use el carro para ir a la tienda que está a dos cuadras sin importarle que eso genera contaminación y desgaste del suelo innecesaria, pero ustedes intenten no ser así. Que una tecnología automatice un proceso no justifica inmediatamente que deba reemplazarlo para todos los casos de uso. Para darles un marco operativo, no la usen para redactar tareas completas acerca de un tema que no estudiaron. No la usen para resumir textos que tengan que leer completos. En concreto, algo que no automatizan estas tecnologías, es el acto de leer; automatizan el acto de escribir.
   Recuerden que las habilidades que tenemos no son monopropósito. Volviendo al ejemplo del carro, aprender a caminar no solamente tiene como propósito el desplazarnos, tiene toda una serie de impactos en nuestra salud y bienestar. Leer, escribir lo que pensamos, verbalizar ideas y estructurar argumentos sigue y seguirá siendo algo necesario para los seres humanos porque esas habilidades nos hacen más críticos y más libres.

3. ¿Somos autores del contenido generado por la IA?
   Depende de en qué sentido usemos la palabra “autor”. Si lo preguntas a si legalmente lo somos, según la instancia responsable de definir eso en México, no. Hagamos un ejercicio mental. La IA escribe todo un ensayo que me parece buenísimo. Podemos vernos tentados a decir que yo no soy el autor de la obra, así que reemplazo cada una de las palabras del ensayo de modo que ahora no tiene ninguna palabra de la original. ¿Ahora sí soy el autor? Dudoso, implicaría que todos los traductores profesionales se vuelven autores de las obras que traducen, algo que rechaza la tradición en esta materia. ¿Por qué no soy el autor? Pensaríamos que es porque la idea del escrito sigue siendo la misma aunque haya cambiado las palabras, pero aquí está mi pega. ¿La IA tiene ideas? Pongamos otro ejercicio, yo tengo un programa que me genera una palabra al azar a la vez, cada vez yo decido si dejar la palabra o volver a intentar. Siguiendo este método, termino con el mismo ensayo. ¿Ahora yo soy el autor?, ¿quién es? No lo tengo claro, supongo que ustedes tampoco. Porque la idea de autoría es una invención imperfecta en sí misma. Hoy por hoy no disponemos de un concepto similar al de autoría que abarque todas las complejidades posibles porque la noción de que algo nos pertenezca también es una idea imperfecta.