Напишу декілька практичних зауважень до роботи з ЛЛМ. Понию.
На жаль, у мене є проблема: я не довіряю ЛЛМ, тому багато чого перепровіряю. У мене складні промпти та агенти, які на кожному кроці роблять аудит і уточнюють у мене, якщо є сумніви. Оркестратором працюю я сам (хоч убий, я не розумію, як можна при своєму розумі дозволити ЛЛМ зробити наступну ітерацію: сформулювати завдання, запустити агента на це завдання та прийняти результат). Коли оркестратор стає складним, дрібні помилки, неточності, галюцинації, баги починають накопичуватися й мають синергетичний ефект. Тому за декомпозицією та виконанням потрібен постійний контроль, навіть якщо там відбувається дабл-чек.
Так, у мене крутиться декілька достатньо складних проєктів. Але оскільки ЛЛМ думає над моїми тасками довго — 20–40 хвилин, іноді до години, — то замість того, щоб розбивати день (а то й тиждень) на достатньо довгі проміжки очікування, я працюю в багатозадачному режимі: поки працює таск одного проєкту, я запускаю таск наступного, і так по колу. Це повертає мене в часи юності, коли працював у такому режимі в реальному житті. А зараз, у 52, це робити складно, а як зайняти час в очікуванні результату, я не придумав. Тож пара днів у такому режимі суттєво вибиває когнітивні здібності, і вже на третій день голова та нервова система не тягнуть.
Справедливості заради треба зауважити, що суб'єктивно продуктивність зросла істотно — в рази, але якою ціною. Якщо довіряти ЛЛМ більше — можна мати навіть плюс порядок. Але прямо не можу, бо він працездатний, ретельний, уважний, але тупуватий.
165
22
16
7September 2, 2026 5.9K 15 40
