Con el auge meteórico de GenAI en los últimos dos años, desde los foros de debate de los científicos de datos hasta la cobertura informativa generalizada, una cosa ha quedado muy clara: este es el mundo de ChatGPT ; nosotros solo estamos aquí para proporcionar las indicaciones.
El ritmo al que han evolucionado las herramientas de IA general es verdaderamente asombroso y no da señales de ralentizarse. Con solo escribir unas pocas palabras en un chatbot, cualquiera puede generar ahora sofisticados informes de investigación, resúmenes instantáneos de reuniones, material gráfico listo para su publicación, código informático sin errores, e incluso perfiles para aplicaciones de citas y mensajes coquetos de , entre otras muchas cosas.
Ese «mucho más» promete una oleada de oportunidades para las empresas y nuevos vectores de ataque para los adversarios, así como nuevas formas de combatir dichos ataques. Comprender a fondo las capacidades y limitaciones de esta tecnología se ha convertido en un requisito imprescindible para los líderes empresariales y los profesionales de la seguridad de la información.
Lo más importante que hay que recordar es que, aunque los chatbots de GenAI puedan parecer magia, en realidad no son más que motores de predicción extremadamente sofisticados.
Herramientas como ChatGPT, Gemini, Copilot y otras se basan en el aprendizaje automático y en los modelos de lenguaje a gran escala (LLM), que son redes neuronales complejas entrenadas con miles de millones de documentos, imágenes, archivos multimedia y programas de software. Al comprender el significado y el contexto del lenguaje, los modelos de lenguaje grande (LLM) son capaces de reconocer patrones, lo que les permite predecir qué palabras, imágenes, sonidos o fragmentos de código es probable que aparezcan a continuación en una secuencia. Así es como las herramientas de GenAI pueden redactar informes, componer música, crear cortometrajes o programar código mejor (o, al menos, más rápido) que la mayoría de los seres humanos, todo ello en respuesta a sencillas instrucciones en lenguaje natural.
Pero el mero hecho de que sus compañeros de trabajo utilicen términos como «LLM» y «GPT» en las reuniones no significa que ellos (o, ejem, usted) los entiendan realmente. A continuación le ofrecemos un glosario informal con los conceptos clave que debe conocer, desde «AGI» hasta «ZSL».
1. Inteligencia Artificial General (AGI)
La máxima expresión de la inteligencia artificial ya ha desempeñado un papel protagonista en docenas de películas apocalípticas. La IGA es el punto en el que las máquinas adquieren la capacidad de pensar de forma original y, o bien a) nos salvan de nuestros peores impulsos, o bien b) deciden que ya han tenido suficiente de nosotros, los insignificantes humanos. Si bien algunos expertos en IA, como el «padrino de la IA» Geoffrey Hinton, han advertido sobre esto, otros discrepan rotundamente sobre si la IA general (AGI) es siquiera posible, y mucho menos sobre cuándo podría llegar.
Lo que hay que recordar: . Para saber con certeza si la IA general está a la vuelta de la esquina, tendrá que viajar al pasado y preguntárselo a Sarah Connor.
«. La IA general es el punto en el que las máquinas adquieren la capacidad de pensar de forma original y, o bien a) nos salvan de nuestros peores impulsos, o bien b) deciden que ya han tenido suficiente de nosotros, los insignificantes humanos.»
2. Manipulación de datos
Al introducir datos maliciosos en los repositorios utilizados para entrenar un modelo de inteligencia artificial, los atacantes pueden obligar a un chatbot a comportarse de forma anómala, generar respuestas erróneas o perjudiciales y dañar las operaciones y la reputación de la empresa que lo ha creado (como, por ejemplo, engañar a un coche semiautónomo de para que se adentre en el tráfico). Dado que estos ataques requieren acceso directo a los datos de entrenamiento, suelen ser perpetrados por personas que trabajan o han trabajado recientemente en . Limitar el acceso a los datos y supervisar continuamente el rendimiento son factores clave para prevenir y detectar este tipo de ataques.
Lo que hay que recordar: ¿Su chatbot está empezando a parecerse a su tía Agatha, esa que no para de soltar teorías conspirativas? Es posible que sus datos hayan sido manipulados.
3. Comportamiento emergente
Los modelos de IA general pueden, en ocasiones, hacer cosas que sus creadores no habían previsto —como, por ejemplo, empezar de repente a conversar en bengalí—, a medida que aumenta el tamaño del modelo. Al igual que ocurre con la IA general (AGI), existe un debate constructivo sobre si estos modelos de IA han desarrollado realmente nuevas habilidades por sí mismos o si dichas capacidades simplemente estaban ocultas.
Lo que debe recordar: Conozca al nuevo director general de su empresa: : Chad GPT.
4. Inteligencia artificial explicable (XAI)
Ni siquiera las personas que crean redes neuronales sofisticadas comprenden del todo cómo funcionan. La denominada «IA de caja negra» hace que resulte prácticamente imposible determinar si unos datos de entrenamiento sesgados o inexactos han influido en las predicciones de un modelo, razón por la cual los organismos reguladores reclaman cada vez con mayor insistencia una mayor transparencia sobre el modo en que los modelos toman sus decisiones. La XAI aporta mayor transparencia al proceso, normalmente mediante el uso de redes neuronales más sencillas, con un menor número de capas, para analizar los datos.
Lo que debe recordar: Si utiliza la inteligencia artificial para tomar decisiones sobre los clientes, probablemente tenga que dar algunas explicaciones.
5. Modelos base
Los modelos de lenguaje grandes (LLM) fundamentales son el cerebro de los bots. Dado que su entrenamiento requiere cantidades inimaginables de datos, electricidad y agua (para la refrigeración de los servidores de datos), los modelos de lenguaje grande (LLM) más potentes están en manos de algunas de las empresas tecnológicas más grandes del mundo. No obstante, las empresas también pueden utilizar modelos base más pequeños, de código abierto y de tipo « » para desarrollar sus propios bots internos.
Lo que hay que recordar: Los chatbots son como las casas: necesitan cimientos sólidos para mantenerse en pie.
6. Alucinaciones
Los chatbots de IA general pueden parecerse mucho a unos niños de cinco años muy espabilados: cuando no saben la respuesta a una pregunta, a veces se inventan algo. Estas respuestas, que parecen verosímiles pero que son totalmente ficticias, se conocen como alucinaciones. Están estrechamente relacionadas con las alucinaciones de « » (), que se producen cuando los chatbots se obstinan y citan fuentes inexistentes para respaldar información que no es cierta.
Lo que debe recordar: ¿Sufre su chatbot «flashbacks ácidos»? Quizá le convenga quitarle las llaves del coche y utilizar el método RAG (véase más abajo).
«Si tiene la sensación de que usted y su bot se están distanciando, probablemente no sea culpa suya, sino de sus datos.»
7. Desviación del modelo (también conocida como «desviación de la IA»)
La deriva se produce cuando los datos con los que se ha entrenado un modelo quedan obsoletos o dejan de reflejar las condiciones actuales. Esto puede significar que las circunstancias externas han cambiado (por ejemplo, una variación en los tipos de interés en el caso de un modelo diseñado para predecir la compra de viviendas), lo que hace que los resultados del modelo sean menos precisos. Para evitar desviaciones, las empresas deben implementar una sólida gobernanza de la IA basada en el aprendizaje automático ( ); es necesario supervisar continuamente la precisión de los modelos y, a continuación, ajustarlos y/o volver a entrenarlos con los datos más recientes.
Lo que debe recordar: Si tiene la sensación de que usted y su bot se están distanciando, probablemente no sea culpa suya, sino de sus datos.
8. Ataques de inversión de modelos
Esto ocurre cuando los atacantes realizan ingeniería inversa en un modelo para extraer información del mismo. Al analizar los resultados de las consultas realizadas al chatbot, los atacantes pueden seguir el proceso a la inversa para determinar cómo funciona el modelo, lo que les permite revelar datos confidenciales de entrenamiento o crear clones del modelo a bajo coste. El cifrado de los datos y la introducción de ruido en el conjunto de datos tras el entrenamiento pueden reducir la eficacia de este tipo de ataques.
Lo que debe recordar: ¿Han empezado a aparecer en Internet imitaciones baratas de su costoso título de máster en Derecho (LLM)? Es posible que se haya sometido a ingeniería inversa.
9. Modelos de lenguaje grandes multimodales (MLLM)
Estos bots pueden procesar diversos tipos de entradas —texto, voz, imágenes, audio y mucho más— y responder en consecuencia. Pueden extraer el texto de una imagen, como fotos de señales de tráfico o notas escritas a mano; escribir código sencillo a partir de una captura de pantalla de una página web; traducir audio de un idioma a otro; describir lo que ocurre en un vídeo; o responderle verbalmente con una voz similar a la de una estrella de cine.
Lo que debe recordar: Puede que la voz de ese bot le resulte seductora, pero en realidad no le interesa tanto como cree.
10. Ataques de inyección de comandos
Las indicaciones elaboradas con esmero, pero malintencionadas, pueden anular los controles de seguridad integrados de un chatbot, obligándolo a revelar información confidencial o a generar contenido perjudicial, como un «plan paso a paso para destruir a la humanidad». Limitar los privilegios de los usuarios finales, mantener a las personas al tanto de lo que ocurre y no compartir información confidencial con modelos de lenguaje grandes (LLM) de uso público son formas de minimizar los daños derivados de este tipo de ataques.
Lo que hay que recordar: ¿Se ha vuelto el chatbot de « » demasiado hablador? Es posible que alguien haya introducido en él una solicitud maliciosa.
«. Programar un chatbot para que tenga en cuenta repositorios de datos fiables a la hora de responder preguntas puede reducir en gran medida el riesgo de obtener respuestas inexactas.»
11. Generación potenciada por la recuperación (RAG)
Programar un chatbot para que tenga en cuenta fuentes de datos fiables a la hora de responder a las preguntas puede reducir considerablemente el riesgo de que se den respuestas inexactas o de que se produzcan «alucinaciones» totales. RAG también permite a los bots acceder a datos generados después de que se haya entrenado su modelo de lenguaje grande (LLM) subyacente, lo que mejora la pertinencia de sus respuestas.
Lo que debe recordar: ¿Desea aumentar la precisión y la fiabilidad de sus chatbots basados en IA generativa? Quizá haya llegado el momento de RAG.
12. Aprendizaje sin entrenamiento previo (ZSL)
Los modelos de aprendizaje automático pueden identificar objetos que no hayan encontrado en sus datos de entrenamiento mediante el aprendizaje «zero-shot». Por ejemplo, un modelo de visión artificial entrenado para reconocer gatos domésticos podría identificar correctamente a un león o a un puma, basándose en los atributos que comparten y en su comprensión de las diferencias entre estos animales. Al imitar la forma de pensar de los seres humanos, ZSL puede reducir la cantidad de datos que es necesario recopilar y etiquetar, lo que reduce los costes del entrenamiento de los modelos.
Lo que debe recordar: . A menos que esté familiarizado con la terminología básica, no tiene ninguna posibilidad de comprender la IA.
