El reto
Nos plantean un “reto” (la verdad es que somos muy de retos así que no nos hicimos mucho de rogar):
Tenemos un contenido privado (esto es importante) y nos gustaría ver la posibilidad de tener disponible un chat automatizado en el canal WhatsApp que sea capaz de:
- Responder a preguntas sobre el contenido, no generalidades que haya en Internet sobre ese tema, sino responder con “mi contenido”.
- Responder a preguntas tipo “En qué parte del contenido se habla de…”
- Como somos muy de retos añadimos:
- Que sea capaz de preguntarte sobre el contenido.
- Que sea capaz de corregir las respuestas.
- Que explique en qué te has equivocado al responder las preguntas que te hace.
Reflexiones
- Este caso cumple con las características para poder usar IA generativa. Bien, esto nos gusta.
- No podemos responder generalidades, tenemos que ser capaces de acotar las respuestas al contenido facilitado.
- ¿Cómo nos facilitan el contenido? Cuanto mejor esté este contenido mejor resultado obtendremos. Si se preveen cambios podemos “industrializar” el procesamiento de contenido. Esto también nos gusta, porque una parte importante del tiempo se puede ir en este proceso.
- Como el contenido es privado no podemos entrenar con nuestro contenido un LLM (Large Language Model) como ChatGPT, porque pasaría a formar parte del contenido usado por OpenAI para entrenar sus modelos.
- Hay que ser muy fino porque el problema de usar WhatsApp como canal de difusión es que un único mensaje está limitado a 1.600 caracteres. Si deseas mandar más información hay que mandar más de un mensaje y ésto no ayuda en a tener una buena experiencia de usuario.
- ¿Las preguntas me las pueden hacer mediante un mensaje de voz? Otro reto, tampoco nos hicimos mucho de rogar, la respuesta es sí, pero nosotros siempre responderemos con mensajes de texto.
El resultado
Podría escribir y escribir pero creo que es mejor mostrar unas imágenes que hablan por sí solas. Estas imágenes están capturadas de un chat real sobre el canal WhatsApp.
Conclusión
No hay ninguna duda de que la IA generativa nos puede ayudar a realizar tareas muy complejas y que bien implementada obtiene resultados muy interesantes. Pero:
- No todos los problemas se resuelven con IA generativa.
- La IA generativa no hace magia.
- La IA generativa no es necesariamente cara, pero hay que acotar muy bien su uso, su industralización y su escalabilidad.
