Resolver problemas en estado de emergencia: cómo la IA offline resuelve sus retos

Las ventajas de la IA optimizada para las empresas y la administración pueden demostrarse incluso sin conexión en un ordenador portátil. Para muchos casos de uso, esta IA offline rinde mejor que cualquier inteligencia universal como ChatGPT. Ofrece un control total de los datos y también funciona de forma muy rentable en funcionamiento continuo.

Introducción

Este artículo es una demostración práctica de las posibilidades de la IA offline. Pero antes, una breve introducción a la IA offline. Es posible desde hace un año, pero sólo recientemente se ha hecho tan potente, incluso para la lengua alemana.

La AI en línea es una inteligencia artificial que se ejecuta localmente en un propio ordenador o servidor. En línea significa que el sistema de IA no necesita conexión a Internet. De ello se deduce que no se envían datos a terceros. A continuación, se presentan los siguientes beneficios de la AI en línea:

• Empresas y autoridades obtienen un Problemlöser para sus casos de aplicación.
• Nuevos modelos de lenguaje de Inteligencia Artificial**, modelos de imagen Stable Diffusion, modelos de audio, modelos de video pueden instalarse y utilizarse en cualquier momento.
• El propio duracion de funcionamiento es rentable posible. Adiós Microsoft Azure. Adiós vulnerabilidades de seguridad.
• Una mejorando a sí misma inteligencia artificial que puede criticarse a sí misma es prácticamente posible.
• Rechtlich simple*: Los contratos de procesamiento de encargos se vuelven innecesarios; en lugar de una solicitud de consentimiento, la opción de opt-out que ofrece ChatGPT es cuestionable y ya no tiene consecuencias legales. Nadie debe preocuparse más por que alguna autoridad de control prohíba a ChatGPT.

Para completar la exhaustividad, se debe mencionar que la interfaz de programación de aplicaciones (API) de ChatGPT tiene sentido en ocasiones. Sin embargo, debido a los modelos de lenguaje de código abierto que mejoran cada semana, este caso es cada vez menos frecuente. Antes de nada: con una API se pueden hacer muchas cosas. A modo de ilustración: a partir de su prompt por defecto un modelo de lenguaje forma una descripción de programa de la composición de imágenes, que luego es convertida en una imagen por un modelo de creación de imágenes. Aquí hay un ejemplo de salida:

Para el alemán como lengua, a menudo hay mejores modelos lingüísticos que ChatGPT. Son de mejor calidad o más baratos. Los interesados deberían echar un vistazo a Claude, Command R+ y Mistral. Sin embargo, la IA offline es más divertida y mejor para problemas específicos.

¿Cuándo IA offline y cuándo chatbot general?

Si alguien quiere saber cuál es la altura del tercer pico más alto del mundo, puede utilizar tranquilamente ChatGPT. También es un buen uso para chatbots generales el ocasionalmente resumir textos públicos con fines semiprofesionales. Estos chatbots también están disponibles para un charla inocente.

Utilizar un chatbot como motor de búsqueda es un enfoque que parece gustar a mucha gente. Si quieres un motor de búsqueda especialmente potente, es mejor que utilices IA offline. OpenAI ciertamente no leerá y analizará un sitio web específico con 5000 subpáginas por ti.

Una alta confiabilidad de los resultados no es solo deseable, sino que en un entorno profesional siempre es importante. Quien necesite esta confiabilidad necesita una IA offline con mecanismos para la calidad del producto.

Datos sensibles*, secretos comerciales o información personal no deben ser ingresados en un sistema de terceros de proveedores estadounidenses. En primer lugar, las leyes estadounidenses como la Cloud Act, FISA 702 o la Orden Ejecutiva 12333 permiten a las autoridades y servicios de inteligencia estadounidenses acceder a estos datos. En segundo lugar, casi con regularidad surgen vulnerabilidades de seguridad en populares chatbots y sistemas de Microsoft (mayorías de participación en ChatGPT!). En tercer lugar, deben realizarse evaluaciones legales y regulaciones que solo se llevan a cabo sobre el papel y requieren un gran esfuerzo.

Las empresas y las administraciones pueden superar los retos con soluciones inteligentes de IA.

Más rápido, mejor y más ligero que nunca.

Una inteligencia artificial en línea puede correr permanentemente. ¿Por qué, se preguntan algunos? ¿Por qué los humanos estudian durante 5 años? Para mejorar. Exactamente lo que puede hacer una IA en línea. Sólo que esta mejora de sí misma no dura años, sino a menudo segundos o algunas horas.

¿Qué es posible con la IA offline?

La IA offline puede hacer mucho. Incluso más que ChatGPT. Todo depende del caso de uso. Tus datos, tu caso de uso. Incluso si no tienes tus propios datos, la IA offline suele ser mejor.

En el apartado anterior ya se ha dado un ejemplo: Recuperar información de Internet. Buscar información en Internet y analizarla después es también un caso de uso muy bueno para la IA fuera de línea. Por ejemplo, se pueden recuperar diariamente las últimas noticias y analizarlas automáticamente con la propia IA de la empresa.

O cómo sería con una Análisis de mercado o observación de la competencia? Sale muy mal desde el principio con los chatbots generales, porque hay que conseguir primero los datos. La obtención de estos datos es fácilmente automática. Quien da este pequeño paso sale de la comodidad innovadora hostil. Como recompensa se obtiene la máxima independencia, control total y sobre todo mejores resultados!

Ejemplos del uso de la IA en la administración:

Los ciudadanos (o clientes) quieren solicitar algo. La búsqueda del formulario o folleto adecuado puede ser optimizada con Inteligencia Artificial. La IA se utiliza aquí para la búsqueda semántica. Los empleados de la administración quedan así desgravados y pueden trabajar más productivamente.

Si una hoja de marca es demasiado complicada, la inteligencia artificial puede resumirla en un lenguaje más sencillo.

Si un formulario o solicitud está solo disponible en alemán o inglés y el ciudadano entiende solo ucraniano, entonces ese documento puede ser traducido con IA.

Se pueden encontrar solicitudes y formularios similares a una solicitud o formulario encontrados con la ayuda de IA. También leyes, directrices internas y sentencias relacionadas con un procedimiento se pueden encontrar de esta manera. Los funcionarios administrativos serán apoyados de la mejor manera posible.

También es posible procesar informes de daños, consultas de clientes o tickets de asistencia.

En el último post se mencionaron otros buenos escenarios para la AI offline.

Documentos para IA offline

En el congreso digital MADKON24 de Maguncia, los participantes en mi taller pudieron experimentar en directo cómo la IA offline produce resultados. Esto tuvo lugar en mi portátil in situ y sin conexión a internet.

La imagen muestra impresiones del MADKON24. Un informe sobre conferencias y talleres, incluyendo el mío, ha sido publicado por Peter Winninger en su blog KOBLENZ DIGITAL.

En el laptop, se mostró especialmente:

• Generador de imágenes: la entrada de texto (prompt) genera la salida de imagen
• Generador de imágenes 2: La imagen de entrada sirve como especificación para la estructura de la imagen. Se crea una nueva imagen a partir de esta especificación y un prompt.
• Optimización de las instrucciones: las instrucciones para la generación de imágenes se optimizaron automáticamente con IA offline. El mensaje optimizado se introdujo en el generador de imágenes. La nueva imagen era más atractiva.
• Variantes de la pregunta: Las variantes se crearon automáticamente para la pregunta utilizando IA fuera de línea:
  • Variantes generales similares al original
  • Variantes muy similares al original
• Traducción: El aviso optimizado automáticamente y las variantes generadas automáticamente se han
  • traducido según
    • Inglés,
    • Español,
    • Ucraniano
• reformulado, a saber
  • en jerga legal,
  • en lenguaje pirata,
  • en el lenguaje que entiende un niño de cinco años
• Para divertirnos, se ha creado un cuento de hadas a partir de la indicación optimizada, en dos variantes

Tuvimos la sensación de haberlo hecho todo una docena de veces durante el taller, cada vez con una aportación distinta y cada vez con muchos resultados nuevos y buenos.

La optimización de la respuesta anterior: Esta mejora propia de la inteligencia artificial es posible haciendo que la inteligencia artificial vuelva a recibir sus propias salidas como entradas. Lo que también funciona muy bien, es la creación artificial de datos de entrenamiento por parte de la inteligencia artificial, con los cuales la misma inteligencia artificial se entrena. Eso es como si un ser humano pudiera escribir su propio material de capacitación y mejorar así.

He aquí un ejemplo de la salida del generador de imágenes mencionado:

Una ampliación de esta imagen ya de por sí no pequeña es posible con la extrapolación AI. Esto permite generar un tamaño cuatro veces mayor sin pérdida apreciable de calidad.

El mencionado generador de imágenes 2 recibió ahora esta imagen como entrada y debía convertirla en un científico loco, conservando la estructura de la imagen. He aquí el resultado de Maguncia:

Además, se calcularon variantes con un armadillo terrestre, tigres, políticos estadounidenses a menudo desagradables, el comandante Data, una dama prominente y muchos otros parámetros. Todo esto en un tiempo corto en el portátil. En total, se generaron alrededor de 100 imágenes en un breve período del taller de dos horas. Como ejemplo adicional, se mostró un generador de imágenes que había sido entrenado para seguir un estilo específico. Por ejemplo, se pueden generar imágenes en el estilo de las instrucciones de IKEA para cada texto promp.

Si se contara la cantidad de textos generados con Inteligencia Artificial en línea en el taller, se llegaría a algunas miles de textos. Estaban optimizados para promocionar textos, traducciones, simplificaciones del lenguaje y otras cosas más. Por ejemplo, se extrajeron las palabras clave de noticias. De la misma manera, se clasificaron los resultados de motores de búsqueda con Inteligencia Artificial en línea. Así se podían distinguir artículos de conocimiento de publicidad. También puede realizarse automáticamente el llamado a los resultados de una popular búsqueda (distinta de Google).

Las posibilidades casi inimaginables de la IA offline:

Una entrada, luego un bucle continuo de IA. La IA genera por sí misma más entradas y produce así más y mejores resultados. Si hay demasiados resultados, se pueden criticar y filtrar utilizando la misma IA.

Ahora es posible, incluso en un portátil. No es un deseo, es una realidad.

Presente también estaba Michael Westphal de TV1. Él grabó mi taller (sin mi conocimiento) como audio. Luego me proporcionó el transcripción, con AI Offline. A pesar de que solo utilizó un micrófono del teléfono móvil, había muchas personas en la habitación, la habitación era grande y varias personas hablaban, el resultado fue muy bueno. Un entrevista grabada después del taller por él y yo se publicará pronto. También se utiliza AI en el video, para la transcripción y subtítulos.

El transcripción de audio (para un idioma en una duración de dos horas) lo he buscado con la AI Offline para que me lo resumiera. Después se simplificó la reducción lingüística y se extrajeron las afirmaciones centrales.

Las declaraciones clave de mi taller de Inteligencia Artificial en el Congreso Digital en Mainz son:

• La IA funciona como el cerebro humano: la inteligencia humana ha sido descodificada.
• Nvidia es actualmente el único proveedor prácticamente disponible de tarjetas gráficas de IA.
• Los modelos de IA de código abierto son geniales.
• Las aplicaciones que antes no podían programarse en absoluto o sólo al cabo de meses o años pueden desarrollarse ahora en muy poco tiempo gracias a la IA.
• La IA permite resolver problemas diferentes de la misma manera. Esto reduce significativamente la complejidad y el esfuerzo.
• La IA puede aplicarse uniformemente a distintos tipos de datos. Los tipos de datos son textos, imágenes, señales de audio, valores de sensores, vídeos, etc.
• Las aplicaciones de IA necesitan datos para ofrecer resultados significativos.
• El origen de estos datos puede ser:
  • Datos históricos, como los datos de licitaciones finalizadas,
  • Datos de Internet (mediante búsqueda automatizada),
  • Datos generados artificialmente (uso de IA fuera de línea),
  • datos generados por humanos.
• Sólo una IA guiada puede dar respuestas fiables. Esta guía puede automatizarse.
• Los sistemas generales de IA, como ChatGPT, son de peor calidad (y suelen ser mucho más caros a medio plazo) que los especializados.
• Sólo la combinación de IA y programación clásica ofrece los mejores resultados.
• La innovación viene de dejar atrás la comodidad y liberarse de las dependencias.

Hoy en día, la mejor solución está a un pequeño paso.

IA offline ilustrada con imágenes

La imagen del poste de la parte superior se generó con una IA offline. Se puede ver en la siguiente colección de tres imágenes en el extremo izquierdo:

La primera imagen (izquierda) fue generada por una IA offline basada en un preajuste manual. La segunda imagen fue generada por una IA fuera de línea, que se encargó de ajustar la iluminación y añadir más detalles a la imagen. La tercera imagen (derecha) fue generada por un generador de imágenes de IA fuera de línea. Las especificaciones aquí fueron:

• Imagen de entrada (previamente generada por IA, pero también es posible cualquier otra imagen)
• Füge ein paar sehr kleine Roboter hinzu, que bailen alrededor de la bombilla._

Es posible hacer preguntas a la propia IA sobre qué otros prompts serían buenos. Es necesario, por supuesto, establecer alguna pauta. Por ejemplo: Quiero que el cuadro tenga más detalles/sea más interesante/recuerde a un pastel...

Según el generador de imágenes en línea que se utilice, incluso se puede chatear con él. Primero se genera una imagen. Luego se dice: Sustituye al hombre por una mujer. También podría automatizarse este proceso mediante un crítico de inteligencia artificial. Al final surgen x imágenes. Se pueden sopesar manualmente o dejar que la IA las filtre. La IA puede aprender qué imágenes le gustan a usted. Para ello, simplemente marque si cada imagen le gusta o no tanto. La IA aprende entonces en función de ejemplos menos, lo que quiere usted.

La pregunta que llevó a la imagen del post fue optimizada por una IA de la siguiente manera:

• Original: problem solver system, intelligent, connections, bright colors
• AI-Version: Vibrant problem-solving AI, illuminating connections with radiant hues.

A continuación, se generó una imagen utilizando la versión AI del prompt:

Ahora la IA local offline ha recibido instrucciones para añadir un dinosaurio futurista:

Como puede ver, en cada caso se generaron 3 variantes. También podríamos haber generado 1.000 o 100.000 variantes. Al fin y al cabo, no cuesta nada. Gracias a una IA de crítica de imágenes offline, se pueden filtrar las 10 mejores imágenes. El humano puede entonces mirarlas y encontrar rápidamente la mejor imagen.

Conclusión

Las ventajas de la Inteligencia Artificial se ofrecen a las empresas y autoridades principalmente con una IA en línea.

La calidad es para muchas cuestiones de problemas simplemente mucho mejor. Esto se logra mediante la programación adicional convencional, que solo causa muy poco trabajo. Ejemplo pequeño plástico: ¿Cuántos caracteres tiene una palabra, puede ser determinado así de manera más efectiva, mientras que ChatGPT fracasa.

La control total de datos** es otro aspecto importante. Dejen que los abogados de su elección hagan otras cosas, aparte de hablar bien de lo que no es bueno: ChatGPT es inseguro, Microsoft es inseguro (pruebas en este blog y siguientes).

La importancia estratégica de la Inteligencia Artificial (IA) en línea es lo más importante. Puede mejorarse y criticarse a sí misma**. Todo esto es prácticamente posible porque no se producen cargos dependientes del uso. Incluso las organizaciones con grandes presupuestos quieren saber antes qué "cuesta" algo. Sin embargo, nadie sabe eso antes de preguntarle un cerebro (IA). Claro que el llamado muy frecuente a una interfaz de IA con cargo, lo mejor es aún con documentos extensivos, se vuelve rápido caro.

Innovación* surge al eliminar obstáculos. Exactamente eso es posible con la AI Offline. Dado que el desarrollo es rápido, es un gran beneficio que los nuevos LLMs se puedan cambiar simplemente así. Los modelos de lenguaje Open-Source, por ejemplo, son tan buenos que a los proveedores comerciales les toca calentarse para no congelarse.

¿Qué casos de uso tiene en su empresa, autoridad o administración? Estaremos encantados de ofrecerle una evaluación inicial de viabilidad.