Solicitud a GroqChat#
Este bloque permite enviar solicitudes a los modelos generativos de GroqChat. Con él, puede crear nuevos textos a pedido, realizar diversas tareas:
- clasificación,
- resumir,
- traducir y reescribir textos,
- escribir prototipos de código en diferentes lenguajes de programación,
- analizar datos semiestructurados y no estructurados,
- extraer y procesar hechos,
- mantener un diálogo sobre diversos temas, y mucho más.
El pago por el uso de esta funcionalidad se deduce de la cuenta del cliente en la plataforma. Para fines de prueba, a cada nuevo Usuario se le da la oportunidad de probar esta funcionalidad sin costo. Al utilizar esta funcionalidad después de la finalización del desarrollo del Robot, se requiere pago.
| Historia del chat | [Tabla de Datos] Agregue la historia del chat, sobre la base de cuyo contexto la red neuronal debe generar una respuesta. La tabla de datos indicada debe contener columnas con los nombres "role" y "content". En ausencia de tales columnas, se utilizará la primera columna de la tabla como "role" y la segunda columna como "content". En la columna "role" solo se puede indicar uno de los siguientes valores:
El rol system está destinado a configurar el tono y las configuraciones básicas de la red neuronal, por ejemplo:
Los mensajes más antiguos deben colocarse al principio de la tabla, los más nuevos al final de la tabla. La columna "content" debe contener el mensaje en sí. Esta propiedad se puede dejar vacía, entonces la generación se realizará solo en función del contenido de las propiedades "Role" y "Request". Si se utiliza la propiedad "Tools", entonces la tabla debe tener 4 columnas:
|
| Solicitud System | [Texto] Ingrese el texto de una nueva solicitud a la red neuronal. La solicitud se ejecutará con el rol system. |
| Solicitud User | [Texto] Ingrese el texto de una nueva solicitud a la red neuronal. La solicitud se ejecutará con el rol user. |
| Modelo | Seleccione el modelo para generar la respuesta. |
| Palabras clave | [Texto/Lista] Cadena o lista que contiene no más de 4 cadenas que detendrán la generación adicional. El texto devuelto no contendrá estas palabras. |
| Temperatura | [Número] Número decimal entre 0 y 1 que muestra el grado de "aleatoriedad" o "creatividad" del resultado, donde:
Para la mayoría de las tareas creativas, un valor de 0.7 es más adecuado, y si desea recibir la misma respuesta para la misma solicitud cada vez, establezca el valor en 0. |
| Longitud máxima | [Número] Longitud máxima del resultado, expresada en tokens condicionales. Para el idioma inglés, 1 token son 4 caracteres, para la mayoría de los otros idiomas, 1 token es 1 carácter. Reduzca este número si desea recibir en promedio solicitudes más cortas, aumente para obtener solicitudes más largas. Tenga en cuenta que este número limita la longitud de la respuesta, sin embargo, no necesariamente la respuesta obtenida será de la longitud que usted indicó; dependiendo del contenido de la solicitud, puede ser más corta. |
| Auto-limitación de longitud | Al activarse, la longitud máxima indicada se ajustará automáticamente. Para ello, se calcula el número de tokens en la solicitud y se tiene en cuenta el número máximo posible de tokens para el modelo seleccionado. |
| Herramientas | [Tabla de Datos] Tabla con la descripción de las herramientas que la red neuronal puede elegir para resolver la tarea en lugar de una respuesta textual. Esta funcionalidad no es compatible con todos los modelos. La tabla de datos debe contener tres columnas:
Ejemplo de descripción de parámetros en JSON: Al invocar la herramienta, la red neuronal elegirá la herramienta adecuada de entre las disponibles, basándose en la descripción de herramientas que usted proporcionó, y también completará (generará) los valores de los parámetros que usted indicó para invocar esas herramientas. Más detalles sobre el mecanismo de uso de herramientas se pueden encontrar en la descripción de la propiedad de salida CalledTools. |
| Tiempo de espera | [Número] Tiempo máximo de espera de respuesta en segundos. El tiempo real de espera depende del modelo seleccionado, la longitud de su solicitud y la longitud esperada de la respuesta, así como de la carga actual de los servidores. Si se supera el límite de espera establecido, se produce un error. |
| Esquema de respuesta | [Texto] Esquema de respuesta en formato JSON. Por ejemplo: { "name": "weather", "strict": true, "schema": { "type": "object", "properties": { "location": { "type": "string", "description": "Nombre de la ciudad o ubicación" }, "temperature": { "type": "number", "description": "Temperatura en Celsius" }, "conditions": { "type": "string", "description": "Descripción de las condiciones meteorológicas" } }, "required": ["location", "temperature", "conditions"], "additionalProperties": false } } |
| Número de intentos | [Número] Número de intentos en caso de error de conexión con el servidor. |
| Rol de la respuesta | [Texto] Rol con el que respondió la red neuronal. |
| Respuesta | [Texto] Texto de la respuesta de la red neuronal. |
| Reflexiones | [Texto] Reflexiones de la red neuronal (si están presentes en la respuesta). |
| Longitud total | [Número] Longitud total de la solicitud y el resultado (combinados), expresada en tokens condicionales. |
| Herramientas invocadas | [Lista] Lista de objetos ToolItem. Si la red neuronal, después de la solicitud, sugiere usar una o varias herramientas, indicadas en la propiedad "Herramientas", entonces en esta propiedad se devolverá una lista de objetos ToolItem. El objeto contiene las siguientes propiedades:
Los valores id, name deben ser utilizados en la tabla "Historial de chat". La propiedad arguments es un diccionario, donde la clave es el nombre del parámetro de la herramienta invocada, y el valor es el valor de ese parámetro generado por la red neuronal. Al utilizar el mecanismo de herramientas, después de invocar este bloque, debe verificar si la red neuronal ha seleccionado alguna herramienta, según el contenido de esta lista. Si la lista no está vacía, debe implementar la funcionalidad de la herramienta o herramientas seleccionadas en el escenario del Robot, y luego en la siguiente invocación de este bloque devolver a la red neuronal el resultado de la ejecución de la herramienta, que la red neuronal utilizará para generar mensajes posteriores. El resultado de la ejecución de las herramientas debe registrarse en la tabla "Historial de chat" de la siguiente manera:
|
| Nivel de procesamiento | Selección del nivel de manejo de errores. Valores posibles:
Si se selecciona el valor "Default", se utilizará el valor del bloque "Inicio" de este diagrama. |
| Nivel de mensajes | Selección del nivel de mensajes que mostrarán los bloques durante su funcionamiento. Valores posibles:
Si se selecciona el valor "Default", se utilizará el valor del bloque "Inicio" de este diagrama. |
| Texto del error | [Texto] Devuelve información detallada sobre el error en caso de ejecución incorrecta del bloque. |