Inteligencia Artificial: Preguntas y respuestas frecuentes

Una ayuda para empresas y administraciones, para poder evaluar y planificar proyectos de Inteligencia Artificial mejor. En varios seminarios de IA se han destacado algunas preguntas de interesados en la IA como especialmente relevantes. En este artículo se mencionan las preguntas de la práctica y se responden de manera pragmática.

Introducción

Quien quiera resolver un problema con Inteligencia Artificial (IA) a menudo no sabe si es posible o cuál es el esfuerzo necesario. La siguiente recopilación práctica de respuestas a preguntas sobre soluciones de IA muestra lo que es posible.

Las preguntas provienen entre otras de un webinario recientemente celebrado, pero también de otros contactos con clientes y interesados. Las respuestas se basan en experiencias de proyectos en los que se han llevado a cabo las peticiones de los clientes.

Los proyectos contenían todos un relevante porcentaje de programación de inteligencia artificial. Se utilizaron siempre modelos de IA de código abierto y ocasionalmente también interfaces con ChatGPT, Claude 3, Command R+ o otros modelos comerciales de lenguaje.

Las respuestas a las preguntas mencionadas deben proporcionar una orientación para poder reconocer, evaluar, planificar y llevar a cabo proyectos de Inteligencia Artificial de manera más efectiva.

Preguntas de la práctica sobre IA y respuestas

En letra de imprenta se nombra la pregunta. A continuación, como texto corrido normal, sigue la respuesta.

Cuál es el caso de uso más adecuado para introducir a la inteligencia artificial

Debido a los resultados muy buenos y las bajas exigencias de hardware, los siguientes escenarios de aplicación se prestan muy bien para el acceso a soluciones de Inteligencia Artificial – recordando que no es necesario utilizar ChatGPT!

• Búsqueda de conocimiento: Buscar documentos o tickets propios en el sistema de tickets.
• Función de búsqueda en la web: Función de búsqueda inteligente para textos y PDFs en su propia página web.
• Gestión de quejas: A partir de casos anteriores dar una recomendación al empleado sobre cómo tratar mejor la actual queja.
• Regulación de daños: Análogo al manejo de quejas.
• Búsqueda de Internet inteligente: Recibe resultados de búsqueda de una motores de búsqueda (a través de interfaz/Servicio API) y los filtra inteligentemente. De 1000 coincidencias, se eliminan las coincidencias irrelevantes.
• Sistema de respuesta para preguntas frecuentes: Se requieren pares pregunta-respuesta o documentos que contengan respuestas (las preguntas a las que responden los documentos pueden generarse sintéticamente).
• Clasificación de documentos, textos, títulos, imágenes, señales: Asignar cada documento a una de varias categorías definidas. Aprender automáticamente las categorías correctas. Posibilidad de alta precisión.

Estas aplicaciones pueden correr en la propia hardware de su empresa o organización sin que se envíen datos a terceros.

¿Cuáles son los casos de uso que siguen siendo adecuados para una solución con Inteligencia Artificial?

Especialmente hay que mencionar:

• Chatbot / Asistente de conocimiento: Conversación con memoria, respuesta en propias palabras, utilización también del conocimiento de Internet para la búsqueda de respuestas…
• Generación de texto: Creación de textos creativos de alta calidad, como artículos de blog; Resumen del contenido de documentos
• Objetodetección: reconocer clases de objetos (Persona, Casa, …) en imágenes y videos, detección inteligente de movimiento.
• Generación de imágenes: Generar imágenes según la solicitud de texto, generar imágenes similares a la imagen de entrada. Es posible una verificación automática de derechos de autor.
• Traducción de idioma y texto: Transcripción, emisión de voz, traducción de un idioma a uno de los 100 otros idiomas.

El esfuerzo necesario para esto suele ser bajo. Solo las exigencias de hardware son más altas que para los casos de uso mencionados en el apartado anterior.

¿Qué es la Inteligencia Artificial en Línea?

La inteligencia artificial offline es una optimizada que puede funcionar sin conexión a Internet, pero puede comunicarse con el mundo exterior si es necesario.

Ventajas:

• Control de datos completo
• Mejores resultados que ChatGPT, Gemini y similares
• Más barato

Información adicional sobre la Inteligencia Artificial en Línea

¿Cuáles son las recursos temporales realistas para un proyecto de Inteligencia Artificial?

Para un prototipo y una prueba de viabilidad el esfuerzo es a menudo muy bajo. Cuando se trata del procesamiento de sus datos, estos deben (como siempre) ser leídos. Esto es una tarea convencional.

La tecnología trabaja por usted: Inicie su proyecto de Inteligencia Artificial, entonces puede estar seguro de que el avance técnico en el área de la IA lo beneficiará en pocos meses.

Con qué facilidad puede un modelo de lenguaje de Inteligencia Artificial ser intercambiado con otro

En resumen: Por lo general, esto es posible de manera sencilla. Muchos modelos lingüísticos siguen la misma arquitectura del sistema. Pueden ser reemplazados por otros nuevos y mejores simplemente cambiando unas pocas líneas de código. Los nuevos modelos lingüísticos pueden ser utilizados como Drop-In Replacement, utilizando un término técnico.

¿Cuáles son los costos de licencia para programas y modelos de lenguaje de Inteligencia Artificial?

El mercado de código abierto ofrece en el ámbito de la Inteligencia Artificial una calidad y actualidad extremadamente alta, que no se puede comparar con ningún otro mercado de código abierto.

Se refiere tanto a marcos de inteligencia artificial como a modelos de lenguaje de IA (y otros modelos de IA).

Los costos de la licencia son así, en pocas palabras, cero.

Y cuando se utiliza la API de ChatGPT o similares, surgen costos que dependen de la intensidad del uso.

Puede una inteligencia artificial ser ejecutada en hardware propio?

Sí. Un ejemplo plástico de la práctica: Este texto fue escrito en un portátil en el que funcionan modelos de lenguaje de Inteligencia Artificial con 30 mil millones de parámetros (modelos de 30B). Lo que es posible en un portátil funciona aún más en un servidor de IA.

Al Servidor AI: O bien, alquilar (de proveedores alemanes o europeos) o comprar. Los principales costos al comprar se derivan de los costos de la tarjeta gráfica(s).

Para muchos casos de uso, como la búsqueda de conocimiento o la generación de recomendaciones para informes de daños o quejas de clientes, basta con una Hardware mínimo.

¿Cuánto cuesta el mantenimiento de una aplicación de IA?

El esfuerzo de atención al cliente es más bajo que en otros sistemas de TI, a menudo incluso cero. Si hay documentos de conocimiento disponibles, pueden ser leídos y procesados automáticamente. El esfuerzo se produce naturalmente cuando se recopila nuevo conocimiento para mejorar la calidad del sistema o agregar nuevos conocimientos. Sin agregar nuevos conocimientos, el esfuerzo tiende a cero.

Puede agregarse nuevo conocimiento a una aplicación de inteligencia artificial después de su puesta en marcha?

Sí, eso es posible de varias maneras.

La forma más sencilla es seleccionar nuevo conocimiento que se ajusta a una pregunta del usuario para presentárselo al modelo de lenguaje para facilitar su respuesta.

El entrenamiento más sostenible es el refinado del modelo de lenguaje con la nueva información. El modelo de lenguaje se actualiza aquí, por así decirlo.

Se necesitan ejemplos para entrenar la inteligencia artificial.

Pueden generarse datos de entrenamiento si hay demasiados ejemplos

Sí, eso es posible. Para ello se crean ejemplos artificiales. Esto se llama conjuntos de datos sintéticos. Para la creación de conjuntos de datos sintéticos se utiliza un modelo de lenguaje. Para los datos públicos se puede utilizar un servicio en la nube como ChatGPT, Command R+ o similares, si lo considera adecuado. A menudo es mejor utilizar un modelo de lenguaje local, ya que también es posible sin costos adicionales. Este modelo local también puede ser entrenado para generar conjuntos de datos sintéticos de entrenamiento especialmente bien.

Otro beneficio de los modelos locales es la posibilidad de encargarles que generen datos sintéticos durante todo el día (24/7). Lo que con ChatGPT costaría unos 10.000 euros al mes, lo hace un modelo AI local a un precio fijo. Las costos fijos están compuestos por los gastos de funcionamiento de su hardware. Si alquila hardware, estos cuestan varios cientos de euros al mes. Si compra un sistema o tiene uno, solo hay costos de electricidad en el funcionamiento.

Al observar esto ya se puede ver que existen importantes ventajas y posibilidades estratégicas si uno se esfuerza un poco más que los demás, quienes por comodidad utilizan la supuesta mejor solución "ChatGPT".

¿Cuán confiables son las respuestas de un modelo de lenguaje / chatbot / sistema de inteligencia artificial?

Es es como con los seres humanos: nadie lo sabe, a menos que ya conociera la respuesta antes.

Concretamente: los modelos de lenguaje proporcionan respuestas correctas en funcionamiento normal, pero no lo suficientemente a menudo como para poder hablar de su fiabilidad. Incluso ChatGPT falla ante preguntas más específicas que no giran directamente alrededor de la altura de la Torre Eiffel.

La búsqueda de conocimiento en documentos tiene una alta confiabilidad.

La confiabilidad de los chatbots se puede mejorar significativamente mediante inteligentes técnicas adicionales, con un esfuerzo mínimo.

La conclusión es que "no hay almuerzo gratis". Hay que hacer un poco de esfuerzo para obtener una alta confiabilidad. El gasto por el esfuerzo a menudo es manejable y económico.

¿Cómo se puede evitar que los datos fluyan a ChatGPT o a otros proveedores de inteligencia artificial?

Se puede evitar un flujo de datos a OpenAI o Microsoft solo si no utiliza ChatGPT.

Utilicen ChatGPT y no se puede evitar la pérdida de datos en absoluto. A menudo las configuraciones de privacidad están a favor del cliente (Opt-Out en lugar de Opt-in). La pérdida de sus datos solo puede evitarse legalmente, es decir, teóricamente, mediante la ley.

¿Cuáles son los problemas de protección de datos que pueden surgir al utilizar una aplicación como HeyGen?

HeyGen se utiliza aquí solo como un lugar holder para muchas aplicaciones de Inteligencia Artificial de este tipo, con las que se pueden generar contenidos sintéticos.

HeyGen es un herramienta disponible en línea para crear videos. Al clonar su propia voz, colocarla en otra cara y sincronizar las labios con ella, se puede crear un video. Una entrada de texto se convierte en hablado en la voz clonada.

Si su empleado de marketing sugiere HeyGen y voluntariamente se clona su propia voz, entonces es posible que tampoco tenga derecho a retractarse porque no había dado su consentimiento previo para poder retractarlo. De lo contrario, hay que tener en cuenta que para utilizar una voz humana puede ser necesario obtener el consentimiento del propietario de la voz.

¿Es ChatGPT el mejor modelo de lenguaje?

Probablemente no más. ChatGPT ofrece resultados asombrosos, pero no fue entrenada específicamente para el idioma alemán. Además, es "vieja", se basa en una arquitectura que ya debe ser considerada obsoleta. Sólo la cantidad enorme de datos y su gran tamaño (número de neuronas artificiales y conexiones) garantizan un rendimiento competitivo.

Los costos de ChatGPT no son competitivos porque en comparación son más que el doble de lo que cuestan modelos de lenguaje similares ofrecidos por otros proveedores. Mistral de Francia ofrece un modelo muy bueno, así como Cohere de los Estados Unidos. Los proveedores extracomunitarios se ajustan mejor a aplicaciones en las que no se trata de datos críticos y no hay riesgo de flujo de conocimiento.

Modelos de código abierto son ahora tan excelentes que son competitivos. Además, se están mejorando constantemente y pueden ser gestionados por sí mismos.

¿Qué debe tenerse en cuenta al operar un contestador de inteligencia artificial?

Se refiere a una (estática) anuncio que fue creado con una aplicación de Inteligencia Artificial.

La voz sintética no debería ser demasiado similar a la de una persona real (con una voz reconocible). Para sintetizar la voz, el material de partida debe ser legalmente inobjetable en cuanto a derechos de autor.

En cuanto a lo demás, no hay nada importante que tener en cuenta. En particular, aquí no se procesan datos personales mediante inteligencia artificial.

¿Cuáles son las habilidades que debe tener un programador de Inteligencia Artificial?

Un profundo conocimiento técnico y experiencia en programación son muy beneficiosos. A quien nunca ha trabajado a fondo en la programación de Inteligencia Artificial, no debería empezar a construir un sistema de IA desde cero.

El AI es un tema muy complejo con numerosas evoluciones rápidas. En especial deberían tener conocimientos en Python y Linux/Ubuntu (o similares). Si se conocen los fundamentos técnicos de la Inteligencia Artificial, no hace daño. También sería beneficioso conocer programación de interfaces. Si el programador es el que configura por primera vez el sistema e instala desde cero, es otra cosa. A menudo es sensato si alguien más lo hace.

En cuanto a la AI, es de ventaja a medio plazo si el responsable técnico (a menudo el programador/ desarrollador) sigue con interés las rápidas evoluciones en el mercado tecnológico de AI y las conoce.

Puede usarse la Inteligencia Artificial también para otras tareas además de la procesamiento de texto?

Sí. Aquí se habla de modalidades. Las modalidades son tipos de datos, por lo tanto texto, imagen, video, audio, valores de sensores de temperatura, datos de análisis web, etc.

Hay modelos de Inteligencia Artificial para múltiples modalidades, y son de código abierto, por lo que están disponibles gratuitamente. Por ejemplo, se puede extraer el lenguaje de los videos o podcasts y convertirlo en texto. Esto se hace con sistemas de IA propios basados en código abierto mejor que con Microsoft Teams, dejando a un lado la cuestión de controlar los datos.

¿Cuál computadora recomiendan para trabajar con inteligencia artificial?

Lo que importa es si quieres programar o simplemente trabajar con IA como usuario.

Recomiendo un sistema Ubuntu para la programación. También sería posible utilizar Windows con WSL, lo cual es adecuado para el buen inicio pero no para profesionales.

Como usuario pueden tomar un PC (o Notebook) de su elección, que tenga una tarjeta gráfica capaz con la mayor cantidad posible de VRAM (NVidia) o un chip KI de Apple (como el M3). Lo demás es casi irrelevante. Lo importante sería tener una unidad de disco duro de al menos 1 TB, lo mejor si tiene tecnología SSD rápida. RAM de al menos 32 GB.

Observaciones finales

Claro que hay muchas otras preguntas. No duden en hacerlas. Les gustará la respuesta.

Aunque necesite una primera evaluación sobre la factibilidad o el esfuerzo necesario para su proyecto, le estaré encantado de proporcionarle un retroalimentación realista.