Tlön, Uqbar, ChatGPT
2024 Oct 08
See all posts
Tlön, Uqbar, ChatGPT
"... ya en las memorias un pasado ficticio ocupa el sitio de otro,
del que nada sabemos con certidumbre -ni siquiera que es falso."
Jorge Luis Borges
MLOps, ChatGPT y Borges
Hoy tuve uno de esos momentos de conexión de ideas.
Estaba sentado en la segunda fila del aula 1403 del pabellón
0+infinito de la facultad de exactas de la UBA. Primer día de clase de
la materia Machine Learning Ops, optativa del segundo bimestre 2024.
Entre los temas que se estaban presentando, aparecen los large
language models (LLM), como chatGPT. En particular, se debatía la
precisión de estos modelos, para que sirven, si son "buenos" o no,
etc.
Medio a la pasada se menciona el tema de las alucinaciones
en estos modelos, lo dificil que resulta detectar cuando una IA está
inventando cosas y, sobre todo, el esfuerzo que las personas estamos
dispuestas a realizar para detectar estos errores.
Casi de manera instantánea se me vino a la mente el final del cuento
de Borges Tlön,
Uqbar, Orbis Tertius, voy a intentar no spoilear por si no lo
leíste.
Vivimos en una sociedad que abre los brazos a la inteligencia
artificial sin tener mucha idea de lo que es, como funciona, que
problemas tiene, a que peligros nos enfrenta. No soy de las personas
fatalistas con la IA, no creo que vaya a destruir a la humanidad.
Lo que sí creo que puede modificar es la relación del humano con el
mundo y con los otros humanos, en particular la sociedad. Hace unas
semanas se viralizaron las respuestas de ‘Alexa,
how should I vote?'
Qué tan lejos estamos de ese mundo en el que aquello que diga la IA
sea la verdad absoluta? El mundo en el que unos pocos pueden borrar la
historia, o más bien, modificarlas en el conocimiento social.
Si este razonamiento surgió en mí es porque identifico esos momentos
en los que creo casi ciegamente en lo que me dice chatGPT, pero (por
ahora) también reconozco los momentos en los que alucina.
Quizás en 20 años (o 20 meses) estos modelos logren lo que aquella
sociedad secreta relatada por Borges logró.
Tlön, Uqbar, ChatGPT
2024 Oct 08 See all postsMLOps, ChatGPT y Borges
Hoy tuve uno de esos momentos de conexión de ideas.
Estaba sentado en la segunda fila del aula 1403 del pabellón 0+infinito de la facultad de exactas de la UBA. Primer día de clase de la materia Machine Learning Ops, optativa del segundo bimestre 2024.
Entre los temas que se estaban presentando, aparecen los large language models (LLM), como chatGPT. En particular, se debatía la precisión de estos modelos, para que sirven, si son "buenos" o no, etc.
Medio a la pasada se menciona el tema de las alucinaciones en estos modelos, lo dificil que resulta detectar cuando una IA está inventando cosas y, sobre todo, el esfuerzo que las personas estamos dispuestas a realizar para detectar estos errores.
Casi de manera instantánea se me vino a la mente el final del cuento de Borges Tlön, Uqbar, Orbis Tertius, voy a intentar no spoilear por si no lo leíste.
Vivimos en una sociedad que abre los brazos a la inteligencia artificial sin tener mucha idea de lo que es, como funciona, que problemas tiene, a que peligros nos enfrenta. No soy de las personas fatalistas con la IA, no creo que vaya a destruir a la humanidad.
Lo que sí creo que puede modificar es la relación del humano con el mundo y con los otros humanos, en particular la sociedad. Hace unas semanas se viralizaron las respuestas de ‘Alexa, how should I vote?'
Qué tan lejos estamos de ese mundo en el que aquello que diga la IA sea la verdad absoluta? El mundo en el que unos pocos pueden borrar la historia, o más bien, modificarlas en el conocimiento social.
Si este razonamiento surgió en mí es porque identifico esos momentos en los que creo casi ciegamente en lo que me dice chatGPT, pero (por ahora) también reconozco los momentos en los que alucina.
Quizás en 20 años (o 20 meses) estos modelos logren lo que aquella sociedad secreta relatada por Borges logró.