Javohir Fikrlar

100 betlik prompt?

Yaqinda "Big 4" lardan biri KPMG(soliqlar bo'yicha maslahat beruvchi firma) TaxBot AI agentini qurish uchun 100 betlik prompt ishlatgani haqida o'qib qoldim. Aytishlaricha oldin 2 hafta olayotgan 25 betlik reportni 1 kunda tayyorlab beryabdi ekan, hozircha faqat tajribali soliq maslahatchilariga ishlatishga ruxsat bor ekan

Bunaqa uzun prompt ishlatishganini ko'rib hayron qoldim, hozircha uni qanday ishlatishgani, promptni strukturasi yoki umuman ichkaridagi sxema haqida hech narsa bilmayman, lekin to'g'risi menga bu usul sal yoqmadi, balki effektivroq alternativ bordir deb o'ylab qoldim

Albatta hamma o'ylaganidek, meniyam kallamga kelgan 1 chi fikr -"fine tuning qivorsa bo'maydimi, RAG ishlatishyabdimi o'zi?" bo'ldi, lekin hulosa qilishga shoshmayman odatda, ularam "tupoy" emas, o'ylashgandir deb qo'ydim

Lekin meni o'ylantirgan, bo'lishi mumkin bo'lgan muammolar:

1. Buni ushlab turish, ya'ni kontekst yangilansa promptni to'xtovsiz yangilab turish kerakmi yoki RAG yo'lga qo'yilganmi?

2. Gandiraklash, 100 betlik prompt degani bu aniq javob beradi degani emas, LLM larga promptlar asosan javob, natijani qanaqa ko'rinishda chiqarishga ko'proq ta'sir o'tkazadi, fikrlashga yoki hisoblashga emas, balki shu sababli oxirgi gpt modellar ham oddiy arifmetikalarda gandiraklab qolar...

3. Narx, endi bunaqa uslub Gentra benzinni suvday ichkani kabi tokenni ayamay yoqsayam bu yerda foydaga nisbatan unchalik katta emas deb o'yladim, bitta report uchun balki ko'pida $100 ketar lekin uni kamida $10-15 mingga sotsa kerak KMPG

Men buni har hil qismlarga bo'lgan bo'lardim, hisoblash, savolni tushunish, kategoriyaga arjatish(korporativ soliq, shaxsiy soliq va hkz), hullas har bir bo'lim uchun alohida alohida prompt, agentlar...100 betlik promptda katta ehtimol bilan kamida 15-20 ta buyruq/bo'limlar bo'lishi kerak

Ammo o'ylaymanki, bu haqida ma'lumot berilmagani bular qilinmadi degani emas, katta ehtimol bilan bularni hisobga olishgan KMPG injinerlari

Sizning fikringiz qanday? 100 betlik prompt normalmi?

🤯7👍2😱2

www.tgoop.com/javokhir_notes/341

1.58K viewsAug 25 at 08:37

100 betlik prompt?

Yaqinda "Big 4" lardan biri KPMG(soliqlar bo'yicha maslahat beruvchi firma) TaxBot AI agentini qurish uchun 100 betlik prompt ishlatgani haqida o'qib qoldim. Aytishlaricha oldin 2 hafta olayotgan 25 betlik reportni 1 kunda tayyorlab beryabdi ekan, hozircha faqat tajribali soliq maslahatchilariga ishlatishga ruxsat bor ekan

Bunaqa uzun prompt ishlatishganini ko'rib hayron qoldim, hozircha uni qanday ishlatishgani, promptni strukturasi yoki umuman ichkaridagi sxema haqida hech narsa bilmayman, lekin to'g'risi menga bu usul sal yoqmadi, balki effektivroq alternativ bordir deb o'ylab qoldim

Albatta hamma o'ylaganidek, meniyam kallamga kelgan 1 chi fikr -"fine tuning qivorsa bo'maydimi, RAG ishlatishyabdimi o'zi?" bo'ldi, lekin hulosa qilishga shoshmayman odatda, ularam "tupoy" emas, o'ylashgandir deb qo'ydim

Lekin meni o'ylantirgan, bo'lishi mumkin bo'lgan muammolar:

1. Buni ushlab turish, ya'ni kontekst yangilansa promptni to'xtovsiz yangilab turish kerakmi yoki RAG yo'lga qo'yilganmi?

2. Gandiraklash, 100 betlik prompt degani bu aniq javob beradi degani emas, LLM larga promptlar asosan javob, natijani qanaqa ko'rinishda chiqarishga ko'proq ta'sir o'tkazadi, fikrlashga yoki hisoblashga emas, balki shu sababli oxirgi gpt modellar ham oddiy arifmetikalarda gandiraklab qolar...

3. Narx, endi bunaqa uslub Gentra benzinni suvday ichkani kabi tokenni ayamay yoqsayam bu yerda foydaga nisbatan unchalik katta emas deb o'yladim, bitta report uchun balki ko'pida $100 ketar lekin uni kamida $10-15 mingga sotsa kerak KMPG

Men buni har hil qismlarga bo'lgan bo'lardim, hisoblash, savolni tushunish, kategoriyaga arjatish(korporativ soliq, shaxsiy soliq va hkz), hullas har bir bo'lim uchun alohida alohida prompt, agentlar...100 betlik promptda katta ehtimol bilan kamida 15-20 ta buyruq/bo'limlar bo'lishi kerak

Ammo o'ylaymanki, bu haqida ma'lumot berilmagani bular qilinmadi degani emas, katta ehtimol bilan bularni hisobga olishgan KMPG injinerlari

Sizning fikringiz qanday? 100 betlik prompt normalmi?

BY Javohir Fikrlar