Optimitzant Anotacions amb GPT-4

Aquest article presenta l'enfocament de Batched Prompting per etiquetar preferències eficientment amb GPT-4, analitzant els costos d'escalar l'experiment a 600k entrades d'entrenament i destacant les etapes més costoses i demorades del procés.

viernes, 18 de abril de 2025 • 1 min de lectura • Equip Q2BSTUDIO

Intel·ligència-Artificial-

Aquest article presenta l'enfocament de Batched Prompting utilitzat per etiquetar preferències de manera eficient amb GPT-4, on totes les respostes candidates s'avaluen en un sol lot en lloc de individualment. L'anàlisi de costos d'escalar l'experiment a 600k entrades d'entrenament revela que el mostreig va ser l'etapa més demorada i costosa, amb un cost aproximat de $6,000 per iteració. L'anotació va ser el cost més alt, ascendint a $34,000 per iteració a causa dels volums de tokens. L'entrenament va ser relativament econòmic, requerint només 12-24 hores.

UNA PAUSA?

Juga una estona abans de marxar

ELS NOSTRES SERVEIS

Com et podem ajudar

Tens un projecte en ment?

Explica'ns la teva visió i la convertim en una solució de programari. Sigui quin sigui l'abast, fem realitat la teva idea.