¿Cómo puedo especificar la cantidad de palabras que debe devolver la finalización de Open AI?
Por ejemplo, imagina que le hago la pregunta a la IA
¿Quién es Elon Musk?
¿Qué parámetro puedo usar para asegurarme de que la IA devuelva resultados menores o iguales a 300 palabras?
Estaba pensando que el parámetro max_tokens era para eso, pero parece que max_tokens es para dividir la entrada, no la salida.
Cualquier idea sería muy apreciada. Gracias
El parámetro que buscas en Playground se llama Maximum length y en la API "max_tokens"
Como se describe en la documentación, max_tokens tiene que ver con la salida, no con la entrada:
El número máximo de tokens permitidos para la respuesta generada
Tenga en cuenta que este parámetro se trata de tokens, no de palabras. Si desea encontrar el número equivalente de palabras a tokens, use el tokenizer .