Inteligencia artificial: hechos y malentendidos. Privacidad? Derecho de autor?

Cada uno habla de Inteligencia Artificial, pero nadie sabe a qué se refiere. Eso es el primer hecho. La autoridad italiana de protección de datos prohibió el uso de ChatGPT, pero motores de búsqueda como Google pueden seguir funcionando. ¿Qué es la inteligencia artificial actualmente y cómo está relacionada con la protección de datos?

En resumen

Resumen:

La inteligencia artificial (IA) y la protección de datos son dos temas que han recibido cada vez más atención en los últimos años. Los sistemas de IA como ChatGPT se basan en fuentes de datos públicas y utilizan enfoques similares a los de las motores de búsqueda. Por lo tanto, el problema de protección de datos en aplicaciones de IA no es necesariamente mayor que en motores de búsqueda. Sin embargo, los sistemas de IA pueden causar problemas de derechos de autor si reproducen contenidos ajenos en otra forma.

Preguntas respondidas:

¿Qué es la Inteligencia Artificial de ahora?
La respuesta: La inteligencia artificial de la actualidad se refiere a los sistemas de IA modernos como ChatGPT o otros modelos de lenguaje grande (LLM), que se basan en datos masivos de alta calidad y modelos matemáticos geniales para simular la inteligencia humana.
¿Qué tiene que ver la Inteligencia Artificial con el protección de datos?
La inteligencia artificial puede plantear principalmente problemas de protección de datos cuando accede a datos personales no públicos.
¿Cuál es la diferencia entre Inteligencia Artificial y motores de búsqueda en cuanto a protección de datos?
La respuesta: La inteligencia artificial y los motores de búsqueda recopilan ambos datos de fuentes públicas, pero los sistemas de IA pueden reproducir el contenido en otra forma y posiblemente causar problemas de derechos de autor, mientras que los motores de búsqueda suelen mostrar solo breves fragmentos.
¿Cuáles son los principales problemas relacionados con la Inteligencia Artificial?
La respuesta: Los principales problemas relacionados con la Inteligencia Artificial son los problemas de derechos de autor, la capacidad de la IA para reemplazar a las personas y posibles problemas de privacidad.

Palabras clave importantes:

Inteligencia Artificial, ChatGPT, LLMs, Modelos de Lenguaje Grande, Conjuntos de Datos Common Crawl, Wikipedia, Textos en Línea, Vectores, Base de Conocimiento, Modelo Matemático, Series Numéricas, Computación en la Nube, Python, Pytorch, TensorFlow

Episodio de podcast sobre el artículo:

Introducción

Desde hace algunos años se utiliza el término de Inteligencia Artificial de manera inflacionaria y no diferenciada. Ahora, en el año 2023, según mi percepción, se ha logrado el verdadero avance. A mi juicio como informático es primero que se ha logrado descifrar el principio fundamental de la inteligencia humana. Segundo, se ha demostrado que esto se ha logrado.

El Test de Turing ha sido superado por un programa informático según mi opinión. Lo que Joseph Weizenbaum logró con su psiquiatra virtual Eliza hace tiempo, funcionando ahora en abril de 2023 a través de una simulación eficiente del cerebro humano, es algo que él solo lograba entonces mediante la programación de una técnica de diálogo astuta. Me sentí honrado de haber tenido el placer de conocer al señor Weizenbaum personalmente en mi universidad, la TU Ilmenau, hace unos años (aproximadamente en torno a 2000). También estoy orgulloso de que la TU Ilmenau fuera una de las mejores universidades de Europa y estuviera clasificada en un ranking como el siguiente: Cambridge, Oxford, Zúrich, Eindhoven, Londres, Ilmenau. ¿Quién no conoce a Ilmenau?

¿Qué es la inteligencia artificial?

¿Qué es la Inteligencia Artificial, no puedo responderlo exhaustivamente. Sin embargo, sí puedo decir algo sobre los sistemas actuales como ChatGPT o en general, sobre LLMs (Modelos de Lenguaje de Gran Escala),.

Los sistemas actuales, que justificadamente causan tormentas de entusiasmo, se basan en esencialmente dos enfoques:

1. La base de conocimiento: datos masivos de alta calidad
2. Modelo matemático genial: El centro de pensamiento y comprensión del cerebro

La base de conocimiento de ChatGPT se basa especialmente en las siguientes fuentes públicas:

• Archivos de Common Crawl (CC y CC4): Gran muestra aleatoria del Internet (en parte al azar). Puede descargar cualquier uno.
• Wikipedia: Público, se ha estado ofreciendo como descarga desde hace mucho tiempo. Cualquiera puede descargarlo.
• Libros digitales diversos: todos pueden descargarlos.
• Texto en línea: Público, accesible mediante crawling o a través de dumps.

Como se puede ver, no se trata de información confidencial, sino de lo que las motores de búsqueda como Google recopilan básicamente también. Google incluso extrae numerosas otras fuentes, como documentos PDF, plataformas de medios sociales y muchas más páginas web.

Ahora se vuelve interesante. El modelo matemático, que subyace a los actuales sistemas de Inteligencia Artificial capaces, funciona más o menos así:

• Convierta la base de conocimiento en series numéricas (vectores).
• Según el problema a resolver: Convierte una entrada (pregunta, texto a traducir, etc.) también en series de números.
• Realiza una Búsqueda de semejanza entre los dos vectores mencionados anteriormente. Los pares de datos más semejantes son el resultado más probable.

Este procedimiento puede aplicarse a todos los tipos de datos posibles, es decir, especialmente a:

• ChatGPT, LLaMa, etc., especialmente la completación de texto, asistentes de preguntas y respuestas, traducción, búsqueda de similitudes, resúmenes de texto (extractivos y abstrativos: oraciones originales seleccionadas versus reproducción significativa en nuevas palabras…)
• Photos: Dall-E, Midjourney etc.
• Audiodateien: Wav2Vec, GANSynth. Wer kennt Beispiele?
• Vídeos: aquí
• Cualquier otro sinal, ya sea continuo (analógico) o discreto (digital), siempre y cuando una conversión a valores y vectores discretos sea posible

La arte consistía (!) en la vectorización de datos de entrada. Este problema se ha resuelto de manera muy satisfactoria. Todos, especialmente informáticos y personas aficionadas a la tecnología, podemos aplicar ahora estas posibilidades. Los no técnicos deben utilizar sistemas preestablecidos. Quien tenga conocimientos más profundos sobre software y tecnologías modernas puede construirse, ampliar y profundamente modificar tales sistemas por sí mismo.

He probado ayer un sistema y lo he programado para dar respuestas a preguntas, utilizando una base de datos pública accesible, también llamada conjunto de datos. Como lenguaje de programación elegido ha sido Python. Entre los frameworks de Inteligencia Artificial destacan especialmente Pytorch y TensorFlow. Dado que estos frameworks son consumidores de recursos, no es perjudicial conocer Computación en la Nube. Por suerte, existen soluciones de computación en la nube amigables con el dato incluso desde Alemania.

Algo especial en ChatGPT es el enfoque general. El sistema no solo puede realizar una tarea excelente, sino varias al mismo tiempo. Esto también se conoce como Inteligencia Artificial Generalizada. AGI significa Inteligencia Artificial General, mientras que AI ya ha estado por Inteligencia Artificial y en alemán se le llama AI.

Muchos sistemas de Inteligencia Artificial podrían resolver tareas desafiantes antes que ChatGPT, pero con un enfoque muy limitado a un problema específico. Sin embargo, ChatGPT es muy versátil. Por ejemplo, ya se podía traducir textos fantásticamente con Profundo (una empresa alemana de Colonia!). Con ChatGPT no solo se puede hacer eso, sino mucho más, de lo que DEEPL ni siquiera tiene idea.

Para que los algoritmos de Inteligencia Artificial (IA) sean más rápidos, se utilizan a menudo tarjetas gráficas para el cálculo. A diferencia de los procesadores normales (CPUs), las tarjetas gráficas tienen GPUs (procesadores de gráficos). De manera aleatoria, las GPUs pueden ejecutar las operaciones de cálculo de aplicaciones de IA mucho más eficientemente que las CPUs.

La interfaz de corte y plataforma más popular para una GPU es, según mi conocimiento, CUDA de NVidia, un conocido fabricante de tarjetas gráficas. CUDA significa Arquitectura Unificada de Computación. Sin embargo, también hay Unidades de procesamiento integradas del proveedor Graphcore. IPU significa Unidad de Procesamiento de Inteligencia, mientras que CPU significa Unidad de Procesamiento Central y GPU significa Unidad de Procesamiento Gráfico. De Google se puede informar algo positivo, a saber, TPUs (Unidades de Procesamiento de Tensors). TPUs se encuentran principalmente en la nube de Google, por lo que son poco interesantes para el desarrollador preocupado por la privacidad.

La capacidad de tales tarjetas gráficas de Inteligencia Artificial se debe, entre otras cosas, al número de CUDA-Corazones que tienen. Tarjetas gráficas del segmento de consumo tienen por ejemplo 5888 de esos núcleos (Nvidia GeForce RTX 3070) y son incluso asequibles para particulares.

Si crees que puedes seguir, aquí hay pocos más términos, que deberías conocer: Modelo, Lector, Recuperador, Índice, Código/Descodificador, Transformador, Pipeline, Política, Dataframe. Eso es solo una pequeña parte de los términos importantes que son necesarios para comprender con más detalle los sistemas de inteligencia artificial moderna. Quien quiera entender mejor los sistemas GPT debería saber al menos algo sobre (redes) neuronales recurrentes, modelos de Markov y conceptos como LSTM y NLP.

Los casos de aplicación de la búsqueda de semejanza sobre vectores discretos son enormes. Todos se basan en el mismo (no el mismo) principio fundamental:

• Sistemas de preguntas y respuestas. Ejemplo de mi instalación local, que utiliza una base de conocimientos muy limitada: “¿Por qué era el expresidente estadounidense John F. Kennedy conocido? Por los programas Apolo (una semana después de la muerte de Kennedy, el presidente Johnson emitió un decreto presidencial por el cual las instalaciones espaciales de Cabo Cañaveral y Apolo fueron bautizadas con el nombre de Kennedy).”
• Traducción de textos de una lengua fuente a una lengua objetivo.
• ¿Cuál imagen se ajusta mejor a un prompt dado?
• Crear una imagen a partir de un prompt de texto.
• Crear un resumen de un texto.
• Composición de una obra musical que tenga las mismas características como otras obras del compositor.

La búsqueda de semejanza garantiza que mediante "medios simples" se pueda aprender la estructura interna del alemán en sistemas informáticos. ¡Wow! Explíquenle a alguien lo que significa "estructura interna" y cómo puede aprenderse, sin tener que practicar la lengua durante años en la vida real.

Un aspecto especialmente charman de los sistemas de inteligencia artificial moderna que se basan en LLMs: modelos preentrenados pueden ser entrenados para problemas específicos mediante fine-tuning. Por lo tanto, también hay el acrónimo GPT (Generative Pre-trained Transformer). El sistema fue aprendido una vez y puede entonces ampliar rápidamente sus habilidades a tareas específicas. Exactamente así se comporta un humano que ha aprendido a aprender.

Para ello es necesario saber que el entrenamiento de un modelo de lenguaje es muy intensivo en cálculos. En una computadora normal, esto puede tardar varias semanas, siempre y cuando se tengan los conjuntos de datos adecuados. Al menos "solo" varias semanas, hay que decirlo. Hace tiempo se necesitaba un supercomputador para eso.

Se puede ir por ahí y tomar un modelo de lenguaje como base que alguien más ha entrenado con esfuerzo. A este modelo de lenguaje se le vierte luego sus propios datos específicos del dominio. Al final sale un sistema de Inteligencia Artificial que tiene las habilidades del poderoso modelo de lenguaje más el conocimiento sobre su propio campo de problemas. El fine-tuning del modelo poderoso se ha llevado a cabo en un abrir y cerrar de ojos. Lo importante aquí es tener un buen conjunto de datos de partida, que debería estar preparado para ser procesado por máquina. Con las herramientas técnicas adecuadas, se puede construir una mesa de trabajo para resolver eficientemente todos los posibles problemas del conocimiento. Y es decir, con un sistema de IA instalado localmente, que no necesita conexión a Internet y cuyos costos no afectan a terceros.

Muchas personas dicen que ChatGPT y otros sistemas similares funcionan de manera stochastica: exactamente así funciona también nuestro cerebro. Nuestro cerebro es solo un Máquina de juego, nada más. Aparentemente, pero un muy eficiente Automat. El grado de azar en nuestro cerebro no lo podemos controlar nosotros mismos (a lo sumo mediante la ingesta de alcohol o otras drogas). En sistemas de Inteligencia Artificial se puede controlar el azar estableciendo la llamada Temperatura. Una temperatura más alta produce respuestas más creativas. Una temperatura en punto de congelación, por otro lado, garantiza un determinista Automat que siempre da las mismas respuestas para las mismas preguntas.

Una nota porque un lector se puso en contacto conmigo debido a este artículo: Me prometió que me informaría sobre por qué mi comprensión de la inteligencia es criticable. Estoy ansioso por su respuesta y la incorporaré en este post tan pronto como esté disponible.

¿Qué tiene que ver la Inteligencia Artificial con el derecho a la privacidad?

Los sistemas de inteligencia artificial locales, como el descrito anteriormente, no almacenan sus datos en terceros. Podrían hacerlo sin que surjan problemas de protección de datos (especiales), siempre y cuando los datos provengan de fuentes públicas disponibles gratuitamente.

Si no existieran las conocidas motores de búsqueda, la respuesta al problema del secreto de los datos en aplicaciones de Inteligencia Artificial sería más sencilla. Sin embargo, los motores de búsqueda hacen en primer lugar lo mismo que los sistemas de IA: recopilan muchos datos. En cuanto a ChatGPT, el procedimiento es incluso igual en cuanto a la disponibilidad de las fuentes, ya que ChatGPT recopila igualmente como Google o Bing datos de fuentes públicas.

Aquí es donde debería haber una diferencia, pero no me queda claro.

Las máquinas de búsqueda dan buenas, pero no especialmente inteligentes respuestas a las preguntas. Una pregunta es un palabra clave o también una simple formulada pregunta de conocimiento. Los sistemas de Inteligencia Artificial dan igualmente buenas (o en algunos casos mejores) respuestas a preguntas lingüísticas o complejas en cuanto al contenido.

Sistemas de pregunta-respuesta son lo que en esencia representan las máquinas de búsqueda y ciertas manifestaciones de sistemas de Inteligencia Artificial. ChatGPT es un tal sistema de respuesta automática, exactamente como los motores de búsqueda de Google o Bing. El tipo de procesamiento de datos ya era considerado invasivo en las clásicas máquinas de búsqueda. Los sistemas de IA no van mucho más allá si se miran los modelos matemáticos que, aunque muy intensivos en cálculos, no son necesariamente emocionantes.

Este punto también es cualitativamente igual, aunque ChatGPT pase el Turing-Test, pero las búsquedas ingenuas no lo hacen. En el artículo enlazado anterior de mí se explica brevemente y se ilustra con un ejemplo real el Turing-Test.

Las respuestas que dan las máquinas de búsqueda, en esencia son la reproducción de contenidos leídos con anterioridad. Las aplicaciones de Inteligencia Artificial a menudo reproducen los contenidos también en otra forma, como ChatGPT. Esto es una diferencia. Sin embargo, esto tiene relación con la privacidad solo en cierta medida. Se puede discutir si las afirmaciones falsas o las alucinaciones de la Inteligencia Artificial son un problema de privacidad. Yo no lo veo así al principio.

En el marco del veto de ChatGPT en Italia por la autoridad de protección de datos allí, también se mencionó la protección infantil como razón. En cuanto sé, los contenidos en YouTube, Facebook, Twitter y en motores de búsqueda de Google y Bing están disponibles para cualquier persona que pueda presionar unos cuantos botones. No veo dónde está la protección infantil.

Si una Inteligencia Artificial fuente pública se conecta, no veo un problema de privacidad al principio. En cualquier caso, el problema no es diferente del que enfrentan las buscadores, redes sociales o portales que reproducen contenido de terceros. Italia ha descubierto (gracias a una filtración de datos) que también se guardan las entradas de los usuarios de ChatGPT. A lo mejor las grandes buscadoras hacen lo mismo. Eso no mejora la situación, pero cuestiona por qué no se actuó contra las buscadores antes.

¿Dónde está el problema con la Inteligencia Artificial?

Problemas de derechos de autor pueden ser causados por los sistemas AI. Pues la reproducción de contenidos en una forma que va más allá de citas cortas es problemática legalmente. Esto vale tanto para el texto como para otras formas de medios, como imágenes. Aquí un ejemplo de una imagen generada por computadora que esperemos no infringe derechos de autor (nadie lo sabe con certeza):

Las máquinas de búsqueda suelen mostrar solo fragmentos (snippets) de los resultados de la búsqueda, lo que se considera permitido. Aquí hay un ejemplo de tal snippet:

A veces también se muestran respuestas a preguntas formuladas directamente en la búsqueda. Aquí comienza el problema: si me tomo el tiempo y la molestia de publicar artículos gratuitos, entonces quiero que los lectores visiten mi sitio web. De esta manera al menos tengo la oportunidad de que de ello surja un buen contacto de cualquier tipo.

Si una búsqueda muestra mis contenidos directamente, eventualmente nadie visitará más mi sitio web. ¿Por qué entonces debería ofrecer mis contenidos públicamente o gratuitamente?

Analogamente y aún más extremadamente se comportan los algoritmos y sistemas de Inteligencia Artificial. Dichos sistemas comprenden contenidos extranjeros, y los devuelven en otra (sintética o combinada con otras informaciones) forma. Por el contrario, tengo algo, al menos si son mis contenidos y los operadores de IA no me ofrecen nada a cambio (enlace, dinero etc.). Por eso encontrarán un artículo en Dr. DSGVO, donde se describe cómo ChatGPT es impedido de absorber sus propios contenidos. ([1])

Conclusión

Los sistemas AI como ChatGPT se alimentan de fuentes públicas (al menos es la información que OpenAI ha dado a conocer públicamente). Por lo tanto, no hacen nada diferente a las máquinas de búsqueda. Hasta mi conocimiento, ninguna máquina de búsqueda de Google ha sido prohibida en Europa, ni en Italia ni en Alemania. Las autoridades alemanas de protección de datos han preguntado a OpenAI sobre la procedencia de los datos en los que ChatGPT trabaja.

Puede surgir un problema de derechos de autor si los contenidos ajenos son procesados por sistemas de Inteligencia Artificial. Hasta ahora no he leído mucho sobre esto.

No entiendo la emoción con respecto a (conocida) Inteligencia Artificial y protección de datos por varias razones:

• Las datos provienen de fuentes públicas que también son consumidas por motores de búsqueda.
• Hay medidas sencillas para resolver problemas de protección de datos, siempre y cuando existan.

Medidas describiré próximamente bajo la RGPD del Dr. Mi enfoque se basa en un entendimiento técnico de cómo funcionan los sistemas de Inteligencia Artificial, combinado con mi comprensión sobre protección de datos. Ya pude ayudar a un cliente a resolver problemas legales relacionados con su sistema de IA. Si el conjunto de datos del sistema de IA hubiera tenido que ser limitado, el sistema no habría podido funcionar.

El procedimiento de algunas autoridades (en particular de Italia) me parece difícil. Los sistemas de Inteligencia Artificial deben regulados para que la humanidad pueda existir un poco más tiempo. Sin embargo, esta regulación tiene principalmente que ver con los derechos de autor y el peligro de sistemas omnipotentes. Mi predicción basada en las últimas noticias es que el mercado de acciones no podrá seguir existiendo en su forma actual pronto y lo hará. Porque gracias a sistemas inteligentes, pronto (casi) cualquier persona podrá predecir con bastante precisión los cambios en los precios de las acciones para poder especular con ellas de manera segura.

Sólo en segundo lugar y sobre todo en sistemas que utilizan contenidos no públicos, puede surgir un problema de protección de datos. En contenido protegido por licencia sería nuevamente el derecho de autor la base correcta para la revisión. Por favor, corrijanme si estoy equivocado.

Pueden divertirse preguntando a OpenAI si hay datos de su sitio web en su índice y solicitar la eliminación del índice y todos los modelos de IA (la dirección de correo electrónico vinculada proviene de la Declaración de protección de datos de OpenAI). ([1])