Aunque los chatbos están diseñados y entrenados para responder a todo tipo de preguntas con las palabras más adecuadas y acertadas, ya hemos visto que no están exentas de equivocaciones. Es por esto que NVIDIA acaba de anunciar su nueva herramienta de código abierto que promete ayudar a los desarrolladores de IA a construir chatbots y aplicativos menos locos.
Con esta nueva herramienta que lleva el nombre de ‘NeMo Guardrails’, los desarrolladores pueden crear aplicaciones de IA generativa más precisas y seguras, según NVIDIA. En total, NeMo Guardrails permite que los desarrolladores e ingenieros establezcan tres tipos de límites diferentes en sus LLM internos. Específicamente, los fabricantes pueden evitar que los modelos de IA respondan con datos incorrectos, que hablen sobre temas dañinos o abran brechas de seguridad.
Dichas limitaciones se pueden establecer para crear “barreras de protección temáticas”, de manera que los aplicativos no aborden temas para los que no han sido capacitados. NVIDIA expone el ejemplo de un chatbot diseñado para el servicio al cliente, el cual, con ayuda de su nuevo software, se negaría a responder a preguntas sobre el clima.
Te puede interesar: Rusia anuncia GigaChat, el chatbot que llega a competir con ChatGPT
NeMo Guardrails se encuentra entre el usuario y el modelo de lenguaje grande (LLM) que están utilizando. De esta manera, la herramienta puede interceptar las respuestas generadas por el chatbot, antes de que lleguen al usuario. Si el software detecta una respuesta incorrecta por parte del LLM, evitará que la respuesta llegue al usuario o le dará algunas instrucciones al chatbot para que sepa cómo responder asertivamente.
Tal y como lo informaron desde NVIDIA, su nueva herramienta es compatible con todos los LLM, incluido ChatGPT. Así mismo, explican que “No es necesario ser un experto en aprendizaje automático o un científico de datos” para usar NeMo Guardrails. Dado que el software es de código abierto, la compañía explica que funciona con todas las herramientas que los desarrolladores empresariales utilizan actualmente.
Los clientes comerciales que deseen tener acceso a NeMo, podrán adquirirlo a través de la sección de software de IA de NVIDIA. Habrá que esperar si empresas como OpenAI, Microsoft y Google deciden implementar la nueva herramienta en sus chatbots y navegadores.
Imagen:
