Las advertencias sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial han aumentado durante las últimas semanas, incluso desde las propias compañías que lideran esta tecnología.
Marcelo Mendoza, académico del Departamento de Ciencia de la Computación de la Pontificia Universidad Católica, sostuvo que existe una contradicción entre los llamados a desacelerar o regular la IA y el lanzamiento de modelos con niveles cada vez mayores de autonomía.
El especialista explicó que los modelos actuales contienen billones de parámetros, lo que dificulta seguir y comprender por completo cómo procesan la información y construyen sus respuestas. A esto se suma su capacidad para generar código y participar en el desarrollo de nuevos sistemas.
Uno de los principales riesgos, indicó, aparece cuando una inteligencia artificial recibe atribuciones para modificar sus propios objetivos durante una tarea sin supervisión humana suficiente.
Mendoza también advirtió que las salvaguardas pueden ser vulneradas y que una herramienta con grandes capacidades podría utilizarse con fines maliciosos si su software de control o sus modelos caen en manos inapropiadas.
Otro punto de preocupación es la concentración del desarrollo avanzado de IA en un reducido grupo de compañías ubicadas principalmente en Estados Unidos y China. Según el académico, esta situación profundiza las diferencias de poder tecnológico entre los países.
Respecto de la posición nacional, el experto afirmó que Chile es enormemente vulnerable por su menor influencia internacional y porque todavía no cuenta con una normativa específica para regular la inteligencia artificial.
Aunque existen proyectos en discusión, Mendoza alertó que los cambios políticos y las diferencias entre propuestas han retrasado la construcción de un marco regulatorio capaz de establecer controles y sanciones.
El académico descartó que la carrera tecnológica vaya a detenerse en el corto plazo debido a los intereses económicos y estratégicos involucrados. Por ello, planteó que la respuesta debe combinar controles preventivos, sanciones al mal uso y una regulación que promueva el uso responsable sin impedir los beneficios de la tecnología.
A su juicio, la IA puede contribuir en áreas como el desarrollo de medicamentos, pero también abrir riesgos en ciberseguridad y armamento. El desafío, concluyó, es mantener la capacidad humana de comprender y controlar estos sistemas.
Marcelo Mendoza, académico del Departamento de Ciencia de la Computación de la Pontificia Universidad Católica, sostuvo que existe una contradicción entre los llamados a desacelerar o regular la IA y el lanzamiento de modelos con niveles cada vez mayores de autonomía.
El especialista explicó que los modelos actuales contienen billones de parámetros, lo que dificulta seguir y comprender por completo cómo procesan la información y construyen sus respuestas. A esto se suma su capacidad para generar código y participar en el desarrollo de nuevos sistemas.
Uno de los principales riesgos, indicó, aparece cuando una inteligencia artificial recibe atribuciones para modificar sus propios objetivos durante una tarea sin supervisión humana suficiente.
Mendoza también advirtió que las salvaguardas pueden ser vulneradas y que una herramienta con grandes capacidades podría utilizarse con fines maliciosos si su software de control o sus modelos caen en manos inapropiadas.
Otro punto de preocupación es la concentración del desarrollo avanzado de IA en un reducido grupo de compañías ubicadas principalmente en Estados Unidos y China. Según el académico, esta situación profundiza las diferencias de poder tecnológico entre los países.
Respecto de la posición nacional, el experto afirmó que Chile es enormemente vulnerable por su menor influencia internacional y porque todavía no cuenta con una normativa específica para regular la inteligencia artificial.
Aunque existen proyectos en discusión, Mendoza alertó que los cambios políticos y las diferencias entre propuestas han retrasado la construcción de un marco regulatorio capaz de establecer controles y sanciones.
El académico descartó que la carrera tecnológica vaya a detenerse en el corto plazo debido a los intereses económicos y estratégicos involucrados. Por ello, planteó que la respuesta debe combinar controles preventivos, sanciones al mal uso y una regulación que promueva el uso responsable sin impedir los beneficios de la tecnología.
A su juicio, la IA puede contribuir en áreas como el desarrollo de medicamentos, pero también abrir riesgos en ciberseguridad y armamento. El desafío, concluyó, es mantener la capacidad humana de comprender y controlar estos sistemas.
