Microsoft, con su biblioteca TypeChat, busca habilitar el desarrollo sencillo de interfaces de lenguaje natural para modelos de lenguaje grandes (LLM) usando tipos.
Microsoft presenta la biblioteca TypeChat para crear interfaces de lenguaje natural. La biblioteca de código abierto se basa en TypeScript y escribe definiciones para recuperar respuestas estructuradas de modelos de IA que son seguros para el tipo.
Disponible en GitHub, TypeChat es una biblioteca de código abierto que utiliza TypeScript e inteligencia artificial generativa para unir el lenguaje natural, el esquema de la aplicación y las API. Esta biblioteca usa definiciones de tipo en su aplicación para recuperar respuestas de IA estructuradas que son seguras para el tipo.
Interfaces de lenguaje natural
Presentado el 20 de julio por un equipo que incluye al desarrollador principal de C# y TypeScript, Anders Hejlsberg, miembro técnico de Microsoft, TypeChat aborda la dificultad de desarrollar interfaces de lenguaje natural. Para ello usa aplicaciones que se basan en árboles de decisión complejos para determinar la intención y recopilar las entradas necesarias para tomar medidas.
TypeChat reemplaza la ingeniería rápida con la ingeniería de esquemas, dijeron los creadores de TypeChat. Los desarrolladores pueden definir tipos que representen las intenciones admitidas en una aplicación de lenguaje natural. Esto podría ser tan simple como una interfaz para categorizar sentimientos y tan complejo como tipos para un carrito de compras o una aplicación de música.
Después de que el desarrollador define los tipos, TypeChat crea un aviso para el LLM usando esos tipos y valida que la respuesta del LLM se ajuste al esquema. Si la validación falla, se utiliza una mayor interacción del modelo de lenguaje para reparar la salida no conforme. El sistema también resume la instancia y confirma que se alinea con la intención del usuario.
Los desarrolladores pueden instalar TypeChat a través de NPM:
npm install typechat
TypeChat también se puede construir desde la fuente:
npm run build
LLM
Elaborando sobre TypeChat, sus creadores dijeron que la reciente “oleada de entusiasmo” en torno a los LLM ha planteado muchas preguntas para los desarrolladores. Si bien los asistentes de chat han sido la aplicación más directa, ha habido preguntas sobre cómo integrar estos modelos en las interfaces de aplicaciones existentes, por ejemplo, cómo aumentar las interfaces de usuario tradicionales con interfaces de lenguaje natural y cómo usar la IA para convertir una solicitud de usuario en un formulario en el que las aplicaciones puedan operar. TypeChat está destinado a responder estas preguntas.