CURSO DE ALFABETIZACIÓN EN EL CUMPLIMIENTO DEL REGLAMENTO DE INTELIGENCIA ARTIFICIAL (RIA)

Pregunta: ¿Cuándo estoy utilizando IA, aunque no se llame así?

Al final del módulo: identificarás cuándo interviene la IA y comprenderás qué función está realizando

Contenidos:

• La IA en el entorno laboral
• La IA como parte de herramientas y servicios cotidianos.
• Usos visibles e invisibles para el trabajador.
• Diferencia entre utilizar una aplicación de IA y utilizar una función de IA integrada en otra herramienta.
• Por qué es necesario reconocerla antes de poder utilizarla con criterio.
• ¿Qué entendemos por inteligencia artificial?
• Explicación funcional, sin profundización técnica.
• Sistemas que generan, predicen, recomiendan, clasifican o ayudan a decidir.
• Capacidad de producir resultados a partir de datos e instrucciones.
• La IA como herramienta que realiza una función, no como una figura que “piensa” o “comprende” como una persona.
• IA y automatización
• Qué es una automatización convencional.
• Qué diferencia a una función de IA.
• Casos fronterizos en los que el trabajador no puede saberlo con seguridad.
• No es necesario resolver técnicamente todas las dudas para actuar con prudencia.
• Datos de entrada y resultados de salida
• Qué información recibe la herramienta.
• Instrucciones, textos, imágenes, archivos, registros o datos.
• Resultados posibles: contenido, predicción, recomendación, clasificación o decisión asistida.
• Relación entre la calidad de los datos de entrada y la utilidad del resultado.
• Usos habituales de IA
• Redacción y tratamiento de contenidos.
• Búsqueda, síntesis y análisis de información.
• Traducción y comunicación.
• Atención a usuarios.
• Recomendaciones y clasificaciones.
• Apoyo en procesos internos.
• Reconocer el uso y su finalidad
• Qué herramienta o función se está utilizando.
• Para qué tarea se utiliza.
• Qué resultado se espera obtener.
• Quién utilizará el resultado.
• Por qué un cambio de finalidad puede cambiar también las precauciones necesarias.
• Errores frecuentes de identificación
• Pensar que toda automatización es IA.
• Creer que solo existe IA cuando se utiliza un chatbot.
• No reconocer funciones de IA integradas.
• Confundir una herramienta autorizada con un uso autorizado.
• Asumir que una herramienta es segura solo porque está disponible..

Pregunta: ¿Por qué algunos usos necesitan más precauciones que otros?

Función: proporcionar la comprensión regulatoria mínima que necesita un trabajador.

Resultado esperado: reconocerás que el nivel de precaución depende del uso, de sus consecuencias y de las personas afectadas.

Contenidos

• Por qué existe una regulación sobre inteligencia artificial
• Beneficios y oportunidades de la IA.
• Posibilidad de generar daños o consecuencias no deseadas.
• Necesidad de proteger la seguridad y los derechos de las personas.
• Búsqueda de una IA fiable y controlada.
• Responsabilidad compartida entre quienes desarrollan, incorporan y utilizan estas herramientas.
• La lógica basada en el riesgo
• No todas las herramientas ni todos los usos tienen las mismas consecuencias.
• Importancia de la finalidad y del contexto.
• Influencia de las personas afectadas.
• Diferencia entre una tarea auxiliar y una decisión de impacto.
• A mayor impacto potencial, mayores precauciones y control.
• Usos que no deben realizarse
• Existencia de usos prohibidos.
• Ejemplos comprensibles y relevantes.
• Señales que deben provocar una detención inmediata.
• Imposibilidad de convertir al trabajador en intérprete de toda la lista legal.
• Consulta obligada cuando exista duda razonable.
• Situaciones de especial impacto
• Empleo y selección.
• Evaluación de personas.
• Acceso a servicios.
• Decisiones que afectan a oportunidades o derechos.
• Vigilancia y análisis del comportamiento.
• Personas o colectivos especialmente vulnerables.
• Transparencia: primera aproximación
• Existencia de situaciones en las que debe informarse de la intervención de una IA.
• Interacción con sistemas automatizados.
• Contenidos generados o manipulados artificialmente.
• Decisiones o recomendaciones asistidas por IA.
• La transparencia como forma de evitar engaño o confusión.
• ¿Quién proporciona y quién utiliza la IA?
• Diferencia básica entre quien desarrolla o proporciona una herramienta y la empresa que la incorpora.
• La empresa como usuaria o responsable del despliegue.
• El trabajador como persona que utiliza la herramienta dentro de una organización.
• Diferencia entre responsabilidad empresarial y conducta individual.
• Necesidad de seguir las pautas y límites establecidos.
• El trabajador no realiza una clasificación jurídica
• Reconocer señales de precaución.
• No afirmar por cuenta propia que un sistema cumple o incumple.
• No decidir formalmente si es de alto riesgo.
• No interpretar excepciones legales.
• Detenerse y consultar cuando el uso exceda su conocimiento o responsabilidad.

Pregunta: ¿Qué debo proteger cuando utilizo una IA generativa?

Función: proporcionar pautas claras para el uso profesional más extendido de la IA.

Resultado: evitarás compartir información indebidamente y utilizarás las herramientas de forma prudente y autorizada.

Contenidos:

• Qué puede aportar la IA generativa
• Redacción y reformulación.
• Síntesis y organización.
• Generación de ideas.
• Traducción y adaptación.
• Apoyo en tareas de análisis.
• Utilidad como punto de partida, no como garantía de exactitud.
• Qué no puede garantizar
• Veracidad.
• Actualización.
• Imparcialidad.
• Comprensión real del contexto.
• Adecuación profesional.
• Cumplimiento de las normas internas.
• Ausencia de contenidos protegidos o inadecuados.
• Herramientas y usos autorizados
• Diferencia entre una herramienta accesible y una herramienta autorizada.
• Cuentas personales y cuentas corporativas.
• Funciones gratuitas y servicios contratados.
• Uso de herramientas externas.
• Importancia de consultar las normas internas.
• No buscar vías alternativas cuando una herramienta o uso no está permitido.
• Información que introducimos en la IA
• Datos personales.
• Información confidencial.
• Documentos internos.
• Información económica o comercial.
• Datos de clientes, usuarios, proveedores o compañeros.
• Contraseñas, credenciales y datos de acceso.
• Información que pueda identificar indirectamente a una persona.
• Principio de prudencia y mínima información
• Utilizar únicamente la información necesaria.
• Evitar copiar documentos completos si no es imprescindible.
• Sustituir o retirar datos identificativos cuando sea posible y esté permitido.
• No asumir que eliminar un nombre vuelve segura toda la información.
• Consultar antes de utilizar información dudosa.
• Instrucciones claras y responsables
• Definir la tarea.
• Delimitar el propósito.
• Explicar el formato esperado.
• Indicar límites.
• Pedir que señale incertidumbres.
• No introducir información sensible para mejorar la respuesta.
• No solicitar actuaciones que el propio trabajador no debería realizar.
• Antes de copiar, compartir o publicar
• Revisar el contenido.
• Eliminar datos innecesarios.
• Comprobar el tono y la finalidad.
• Confirmar que no se presenta como hecho algo no verificado.
• Evitar la publicación directa.
• Mantener la responsabilidad sobre el resultado utilizado.
• Alucinaciones, errores, sesgos y exceso de confianza.
• Datos personales, confidencialidad y documentos internos.
• Buenas prácticas de prompting profesional.

Pregunta: ¿Puedo confiar en este resultado y utilizarlo tal como está?

Función: convertir la supervisión humana en una actuación concreta.

Resultado esperado: revisarás el resultado de acuerdo con su finalidad y evitarás delegar indebidamente tu responsabilidad.

Contenidos:

• Una respuesta convincente puede ser incorrecta
• Lenguaje seguro y apariencia de autoridad.
• Información inventada.
• Fuentes inexistentes.
• Datos incompletos o desactualizados.
• Conclusiones que no se derivan de la información.
• Omisión de matices importantes.
• Tipos de problemas que pueden aparecer
• Errores factuales.
• Errores de cálculo.
• Sesgos.
• Omisiones.
• Generalizaciones.
• Contenidos inadecuados.
• Respuestas que no se ajustan al contexto.
• Resultados correctos para una finalidad, pero inadecuados para otra.
• Revisar según la tarea
• No todas las tareas necesitan el mismo nivel de comprobación.
• Mayor revisión cuando aumenta el impacto.
• Diferencia entre un borrador interno y un contenido enviado a terceros.
• Diferencia entre una sugerencia y una decisión.
• Sensibilidad de los resultados que afectan a personas.
• ¿Qué debe comprobar el trabajador?
• Hechos y datos.
• Fuentes.
• Cálculos.
• Coherencia.
• Contexto.
• Tono.
• Información omitida.
• Consecuencias de utilizar el resultado.
• ¿Cómo contrastar?
• Consultar fuentes fiables.
• Comparar con la información disponible.
• Revisar documentos originales.
• Aplicar conocimientos profesionales.
• Solicitar la revisión de otra persona.
• Reconocer cuándo no se dispone de capacidad suficiente para validar.
• ¿De la validación a la supervisión humana?
• La supervisión no consiste únicamente en leer.
• Comprender la tarea y sus consecuencias.
• Poder corregir o rechazar el resultado.
• Mantener capacidad real de intervención.
• No aceptar automáticamente recomendaciones.
• Evitar una supervisión meramente aparente.
• ¿Decisiones que no deben delegarse?
• Decisiones con consecuencias relevantes para personas.
• Valoraciones que requieren juicio profesional.
• Situaciones sensibles o controvertidas.
• Casos en los que el trabajador no puede explicar la decisión.
• Necesidad de elevar determinadas decisiones.
• Los límites del propio criterio
• Diferencia entre revisar y ser especialista.
• No validar aquello que no se comprende.
• No utilizar la IA para justificar una decisión previamente tomada.
• Pedir apoyo cuando falten conocimientos, autoridad o información.

Función: introducir la dimensión humana, social y ética del uso profesional de la IA.

Resultado esperado: reconocerás usos que pueden perjudicar, confundir o tratar injustamente a otras personas y actuarás con especial prudencia.

Contenidos:

• Del resultado al impacto
• Un resultado no debe valorarse únicamente por su calidad técnica.
• Diferencia entre “funciona” y “es adecuado utilizarlo”.
• Consecuencias directas e indirectas.
• Personas que pueden verse afectadas sin utilizar la herramienta.
• Importancia del contexto.
• Identificar a las personas afectadas
• Compañeros.
• Candidatos.
• Clientes y usuarios.
• Proveedores.
• Personas evaluadas o clasificadas.
• Personas mencionadas en documentos o datos.
• Colectivos vulnerables.
• Situaciones especialmente sensibles
• Selección y evaluación.
• Acceso a oportunidades o servicios.
• Atención de reclamaciones.
• Valoraciones sobre rendimiento o comportamiento.
• Perfilado y clasificación.
• Comunicaciones que pueden influir en una persona.
• Uso de imágenes, voz o identidad.
• Sesgos y trato injusto
• Cómo los datos y las instrucciones pueden incorporar sesgos.
• Resultados que reproducen estereotipos.
• Diferencias de trato difíciles de detectar.
• Aparente neutralidad de una recomendación automatizada.
• Necesidad de revisar el efecto, no solo la intención.
• Detenerse ante resultados discriminatorios o degradantes.
• Transparencia en el uso de IA
• Evitar que otra persona crea que interactúa con un ser humano cuando no es así.
• Informar cuando corresponda de que un contenido ha sido generado o manipulado.
• No presentar como exclusivamente propia una valoración que ha sido producida sustancialmente por IA cuando ello resulte relevante.
• Transparencia en decisiones o recomendaciones asistidas.
• Aplicación de las normas internas y de las indicaciones de la organización.
• Mantener una vía humana
• No encerrar a una persona en una respuesta automatizada.
• Permitir que una situación sensible sea revisada por una persona.
• Escuchar objeciones o información adicional.
• No utilizar la IA como barrera para evitar una reclamación.
• Reconocer cuándo la interacción necesita atención humana.
• Qué hacer cuando algo no parece adecuado
• No ignorar el problema.
• No reutilizar automáticamente el resultado.
• Detener o pausar la actuación cuando sea posible.
• Consultar las normas internas.
• Comunicar la situación a quien corresponda.
• No investigar ni decidir por cuenta propia las consecuencias legales.

Pregunta: ¿Cómo debo actuar ante una situación real de trabajo?

Función: integrar lo aprendido y transformarlo en una pauta de actuación.

Resultado esperado: el alumno sabe cuándo continuar, cuándo revisar y cuándo detenerse y pedir ayuda.

Contenidos:

• Antes de utilizar la IA
• Qué tarea se quiere realizar.
• Para qué se utilizará el resultado.
• Si la herramienta está autorizada.
• Qué información será necesaria.
• Quién puede verse afectado.
• Qué normas internas deben consultarse.
• Durante el uso
• Mantener el control de la tarea.
• No aportar más información de la necesaria.
• Detectar resultados inesperados.
• No ampliar la finalidad sin reconsiderar las precauciones.
• No delegar automáticamente decisiones.
• Conservar una actitud crítica.
• Antes de aceptar o utilizar el resultado
• Comprobar hechos y datos.
• Revisar consecuencias.
• Valorar el impacto sobre otras personas.
• Confirmar que la utilización está permitida.
• Aplicar la transparencia necesaria.
• Solicitar revisión cuando corresponda.
• Tres posibles conductas

CONTINUAR

• Uso autorizado.
• Información adecuada.
• Resultado revisable.
• Consecuencias limitadas.
• No existen señales de alarma.

REVISAR CON MAYOR ATENCIÓN

• Información incompleta.
• Resultado dudoso.
• Posibles personas afectadas.
• Tarea sensible.
• Necesidad de contraste o segunda revisión.

DETENERSE Y CONSULTAR

• Herramienta no autorizada.
• Información personal o confidencial dudosa.
• Resultado perjudicial o discriminatorio.
• Uso de especial impacto.
• Imposibilidad de verificar.
• Falta de autoridad, conocimiento o instrucciones.
• Normas internas y canales de ayuda
• Cada empresa puede utilizar herramientas y procedimientos diferentes.
• Importancia de conocer las pautas propias.
• A quién acudir según la organización.
• Qué hacer cuando no existe un procedimiento conocido.
• No inventar una solución ni asumir atribuciones.
• Conducta prudente: detenerse y solicitar orientación.
• Comunicar una duda o incidencia
• Qué herramienta estaba utilizando.
• Qué tarea realizaba.
• Qué resultado obtuvo.
• Qué problema detectó.
• Si llegó a utilizar o compartir el resultado.
• Qué hizo después de detectarlo.
• Necesidad de apoyo o formación adicional
• Cuando la tarea excede la alfabetización básica.
• Cuando se utiliza una herramienta especializada.
• Cuando existen decisiones de alto impacto.
• Cuando cambian las normas internas.
• Cuando el trabajador no puede revisar el resultado.
• Importancia de expresar la duda a tiempo.

Pregunta: ¿Qué debo recordar a partir de ahora?

Función: cerrar el curso y consolidar una pauta personal.

Resultado esperado: terminarás con un criterio breve, comprensible y transferible.

Contenidos:

• Una última mirada
• La IA como herramienta de apoyo.
• La responsabilidad sobre el uso no desaparece.
• La importancia de reconocer límites.
• La prudencia como competencia profesional.
• Las cinco preguntas del curso
• ¿Para qué estoy utilizando la IA?
• ¿Qué información estoy introduciendo?
• ¿A quién puede afectar?
• ¿Puedo comprobar el resultado?
• ¿Puedo continuar o necesito consultar?
• Lo que corresponde al trabajador
• Utilizar las herramientas autorizadas.
• Proteger la información.
• Revisar los resultados.
• Evitar delegaciones inadecuadas.
• Actuar con transparencia.
• Comunicar dudas e incidencias.
• Lo que no corresponde al trabajador
• Interpretar jurídicamente el Reglamento.
• Certificar el cumplimiento.
• Clasificar formalmente los sistemas.
• Investigar incidentes.
• Diseñar procedimientos.
• Asumir decisiones que pertenecen a otros responsables.
• Una responsabilidad compartida
• Responsabilidad personal sobre la propia actuación.
• Responsabilidad de la organización sobre herramientas, normas y procedimientos.
• Importancia de la coordinación.
• Pedir ayuda no es eludir la responsabilidad, sino ejercerla correctamente.
• Compromiso de aplicación
• Qué hábito debe cambiar.
• Qué debe comprobar antes de utilizar IA.
• Qué señal le hará detenerse.
• Dónde buscar ayuda dentro de su organización.

La actividad presentará un caso ficticio, genérico y suficientemente completo para que aparezcan varios aprendizajes:

• Identificación del uso de IA.
• Herramienta y finalidad.
• Información introducida.
• Fiabilidad del resultado.
• Personas afectadas.
• Necesidad de supervisión.
• Transparencia.
• Decisión final: continuar, revisar o detenerse y consultar.