Recuadro I-17
INTELIGENCIA ARTIFICIAL GENERATIVA: POTENCIALIDADES Y DESAFÍOS
Fuente: COTEC, Uso responsable de la IA Generativa, febrero 2024.
• Crear contenidos de alta calidad y diversidad, que pueden ser utilizados para fines creativos, educativos o informativos. Por ejemplo, la IAG puede crear imágenes, textos o sonidos que no existen en la realidad, pero que son verosímiles y atractivos, o que pueden servir para ilustrar o explicar conceptos o ideas.
• Generar datos sintéticos tabulares, lo que permite crear nueva información como datos de ventas, datos de clientes, datos de producción, etc., que se asemejan estadísticamente a los datos con los que ha sido entrenada. Gracias a ello, es posible ampliar las muestras disponibles, generar escenarios extremos o, incluso, salvar limitaciones asociadas a la privacidad a través de la producción de información no identificable.
• Complementar o sustituir la labor humana en tareas que requieren una gran cantidad de datos, tiempo o recursos, como la traducción, el resumen, la clasificación o la generación de informes. Por ejemplo, la IAG puede traducir textos de un idioma a otro, resumir el contenido de un documento, clasificar imágenes según su temática o generar informes a partir de datos.
• Mejorar la experiencia de usuario y la satisfacción de los clientes, al ofrecer servicios más personalizados, interactivos y adaptados a las necesidades y preferencias de cada usuario. Por ejemplo, la IAG puede generar respuestas adecuadas y relevantes a las consultas o demandas de los usuarios, o crear contenidos que se ajusten a sus gustos, intereses o emociones.
• Facilitar el acceso y la democratización de la información, el conocimiento y la cultura, al permitir crear y compartir contenidos en diversos idiomas, formatos y estilos. Por ejemplo, la IAG puede generar contenidos en idiomas minoritarios o en diferentes géneros o estilos artísticos, o adaptarlos a diferentes niveles de comprensión.
• Fomentar la innovación y la investigación, al abrir nuevas posibilidades y desafíos para el desarrollo científico, tecnológico y artístico. Por ejemplo, la IAG puede generar contenidos que inspiren nuevas ideas, soluciones o creaciones, o que planteen nuevos problemas, preguntas o hipótesis.
• Generar contenidos falsos, engañosos o manipulados, que pueden afectar a la veracidad, la credibilidad y la confianza de la información, así como a la reputación, la privacidad y la seguridad de las personas y las organizaciones. Por ejemplo, la IAG puede crear imágenes, textos o sonidos que muestren o digan cosas que no son ciertas, que distorsionen la realidad o que intenten influir en la opinión o el comportamiento de las personas.
• Crear o amplificar sesgos, discriminaciones o desigualdades, que pueden perjudicar a los grupos o individuos más vulnerables o marginados, o que pueden favorecer intereses particulares o ideológicos. Por ejemplo, la IAG puede generar contenidos que reflejen o reproduzcan estereotipos, prejuicios o injusticias, que excluyan o dañen a ciertas personas o colectivos, o que promuevan o justifiquen ciertas agendas o visiones del mundo.
• Reducir o limitar la creatividad, la originalidad o la diversidad humana, al sustituir o imitar el trabajo de los creadores, o al generar contenidos homogéneos o estandarizados. Por ejemplo, la IAG puede generar contenidos que copien o plagien el trabajo de otros, que no aporten nada nuevo o diferente, o que sigan patrones o fórmulas repetitivas o predecibles.
• Provocar o exacerbar conflictos, dilemas o problemas éticos, legales o sociales, al generar contenidos que puedan ser ofensivos, inapropiados, ilegales o dañinos para las personas o el medio ambiente. Por ejemplo, la IAG puede generar contenidos que violen derechos, normas o valores, que causen malestar, disgusto o indignación, o que generen riesgos, amenazas o daños.
• Dificultar o impedir el control, la supervisión o la regulación de la IAG, al generar contenidos que puedan ser difíciles de detectar, atribuir, verificar o corregir. Por ejemplo, la IAG puede generar contenidos que se confundan con los reales, que no se sepa quién los ha creado o con qué fin, que no se puedan comprobar o contrastar, o que no se puedan modificar o eliminar.
