En un mundo cada vez más digitalizado, donde la inteligencia artificial (IA) juega un papel crucial en la toma de decisiones, es fundamental reflexionar sobre los dilemas que plantea su uso y el papel insustituible del análisis humano. Así lo destacó Damián Emilio Gibaja Romero, Director del Departamento de Matemáticas de la UPAEP, quien abordó la relación entre las matemáticas y los dilemas, resultado del uso de la inteligencia artificial.

Gibaja Romero señaló que estamos inmersos en la cuarta revolución industrial, caracterizada por la implementación de algoritmos de IA en diversos sectores. Estos mecanismos han demostrado ser herramientas eficaces para analizar grandes volúmenes de datos, mejorar la eficiencia y optimizar procesos tanto en la industria como en la vida cotidiana.

La inteligencia artificial (IA) ha demostrado ser una herramienta poderosa en diversas disciplinas del conocimiento, incluidas las matemáticas. Sin embargo, más allá de su potencial, es crucial reflexionar sobre su impacto y la necesidad de un uso responsable, refirió Damián Emilio Gibaja.

"Las matemáticas están en todas partes y la inteligencia artificial ayuda a simplificar procesos laboriosos. Su potencial es enorme, puede servir como un gran asistente para resolver problemas complejos en una sociedad interconectada", menciona Gibaja Romero. No obstante, advierte que la sobredependencia en estas tecnologías podría generar ceguera informativa, ya que los usuarios pueden asumir los resultados de la IA sin un análisis crítico.

Desde la planificación de actividades hasta el monitoreo de la salud, la IA ha facilitado numerosas tareas. No obstante, su creciente incorporación también plantea problemáticas relacionadas con la toma de decisiones, especialmente en situaciones donde hay implicaciones éticas y estratégicas.

Uno de los principales dilemas que se presentan con el uso de IA, según Gibaja Romero, es la sustitución total o parcial de tomadores de decisiones humanos. En sectores como la industria automotriz, los vehículos autónomos deben resolver situaciones críticas, como decidir entre proteger la vida del conductor o la de un peatón en caso de un accidente inminente. Estos conflictos éticos ponen en evidencia la necesidad de establecer parámetros claros sobre cómo deben actuar las IA ante situaciones de riesgo.

Otro dilema que mencionó el especialista es el de la racionalidad limitada. La IA toma decisiones basándose en los datos con los que ha sido entrenada, pero su análisis puede carecer de una visión integral que considere el impacto a largo plazo y en un contexto social más amplio.

Desde las matemáticas, particularmente desde la teoría de juegos, se estudian estos conflictos para comprender cómo la toma de decisiones individuales puede afectar el bienestar colectivo. Un ejemplo clásico es el "dilema del prisionero", que muestra cómo la búsqueda de un beneficio individual puede llevar a un resultado perjudicial para todas las partes.

Gibaja Romero advirtió que, si todos los agentes de un sistema dependen de IA para tomar decisiones, podría generarse una racionalidad limitada colectiva, donde las decisiones optimizadas individualmente no necesariamente beneficien a la sociedad en su conjunto. Este escenario enfatiza la necesidad de diseñar inteligencias artificiales que incorporen análisis estratégico y consideren el impacto de sus decisiones en todos los involucrados.

Para mitigar estos dilemas, es clave el desarrollo de algoritmos más responsables y explicables. Una IA explicable es aquella cuyo proceso de toma de decisiones puede ser comprendido por los humanos, evitando que actúe como una "caja negra" sin supervisión.

La teoría de juegos propone la necesidad de axiomatizar la cooperación dentro de los sistemas de IA. En este sentido, Gibaja Romero enfatizó que las matemáticas tienen el desafío de diseñar mecanismos que no solo optimicen la toma de decisiones, sino que también promuevan soluciones que beneficien a la mayor cantidad de personas posible.

Si bien la inteligencia artificial ha revolucionado la forma en que analizamos y resolvemos problemas, su aplicación no está exenta de desafíos y dilemas éticos. Es indispensable que los sistemas de IA sean diseñados con principios de cooperación y responsabilidad, garantizando que las decisiones que tomen sean explicables y beneficiosas para la sociedad en su conjunto.

En este panorama, el análisis humano sigue siendo fundamental. La inteligencia artificial puede ser una herramienta poderosa, pero la reflexión y el juicio crítico de las personas siguen siendo esenciales para garantizar que su uso sea ético, equitativo y orientado al bien común.

Gibaja Romero enfatiza la necesidad de fomentar una "inteligencia artificial responsable" para evitar escenarios distópicos en los que la IA supere el control humano. Cita a Japón y su concepto de "Sociedad 5.0" como un modelo ideal, donde los robots colaborativos o "cobots" trabajan con los humanos sin sustituirlos completamente. "Si permitimos una sustitución total de personas, podríamos regresar a dilemas éticos complejos", señala.

¿Quieres mantenerte a tanto de todas las noticias hoy en Puebla? ¡Explora más en nuestro portal ahora mismo!

Foto: Especial

cdch