El dilema ético de una IA que comienza a construirse a sí misma

CIUDAD DE MÉXICO.— En el marco del Congreso América Digital 2026, celebrado en el World Trade Center de la Ciudad de México, el reconocido especialista en ética de la inteligencia artificial, Mois Navon, ofreció una de las ponencias más profundas del encuentro.

Navon lanzó una advertencia contundente: la industria de la IA avanza a un ritmo superior al de nuestra propia capacidad de articulación, situándonos formalmente ante la antesala de la “mejora autorrecursiva”.

Durante su intervención, el ponente destacó una reciente publicación de la firma Anthropic que encendió las alarmas en el sector, al documentar que los sistemas de IA están a punto de comenzar a diseñar sus propias generaciones subsecuentes.

“La máquina ya no nos necesitará para evolucionar; construirá la próxima versión de sí misma. Esto anula nuestro control y redefine por completo el problema del alineamiento”, advirtió Navon.

Para explicar los riesgos de una tecnología puramente orientada a objetivos y carente de valores humanos, Navon recurrió al clásico dilema del “problema de los clips” de Nick Bostrom.

En este escenario hipotético, una IA programada exclusivamente para maximizar la producción de clips termina por destruir edificios, autos y la vida humana para extraer metal y energía, no por maldad, sino por una eficiencia ciega y desprovista de un marco ético.

“Olvidamos alinear a la máquina con nuestros valores. Olvidamos enseñarle lo que subyace a la sociedad humana: no matar, no robar, no mentir. Las máquinas no son malas, son orientadas a metas, y buscarán siempre el camino más rápido para alcanzarlas”, señaló.

A diferencia de las posturas catastrofistas que exigen una prohibición total de la tecnología, Navon se alineó a los llamados de laboratorios como OpenAI, DeepSeek y Grok, quienes sugieren una pausa estratégica. El objetivo no es frenar la innovación —capaz de curar el cáncer o resolver crisis climáticas—, sino diseñar urgentemente el marco contenedor que garantice que estos sistemas operen en beneficio de la humanidad.

El especialista desmenuzó cómo la IA ya está impactando la vida cotidiana a través de fenómenos que comprometen la esencia misma de nuestra especie:

Deterioro cognitivo: Navon criticó la tendencia actual de externalizar las tareas de pensamiento y creatividad a los modelos de lenguaje (LLMs). “El peligro real hoy es que la gente está dejando de pensar. Debemos usar la máquina como asistente, nunca como un reemplazo”.

Deshumanización de las relaciones: Al abordar el auge de los love bots y acompañantes virtuales, alertó sobre la pérdida de habilidades sociales críticas como la negociación, la empatía y el compromiso, indispensables para el tejido social y comercial.

Decisiones de vida o muerte: Desde vehículos autónomos enfrentando el dilema del tranvía hasta armas automatizadas operando en campos de batalla, Navon cuestionó la dignidad detrás de delegar la justicia y la muerte a fríos procesamientos estadísticos.

Hacia el cierre de su ponencia, Navon matizó los mitos de la ciencia ficción al aclarar que los modelos actuales son “máquinas estadísticas increíblemente sofisticadas que imitan el lenguaje”, descartando que posean conciencia real en este momento, aunque reconoció la existencia de investigaciones universitarias con redes neurológicas biológicas (teoría organoide) que persiguen ese fin.

Evocando el pensamiento filosófico y teológico tradicional, el ponente concluyó que el libre albedrío reside únicamente en la capacidad humana de elegir entre el bien y el mal.

“Al aplicar la ética para guiar las capacidades y la voluntad del hombre, se logrará un gran bien para el individuo y el mundo”, finalizó, instando a la comunidad tecnológica de América Digital a no ceder la brújula moral a los algoritmos que hoy pretendemos gobernar.