Рейтинг обговорення:
  • 0 Голосів - 0 Середнє
  • 1
  • 2
  • 3
  • 4
  • 5

Вартість токенів ШІ виявилася більшою за працю програміста
#1

Привіт, спільното! Пам'ятаєте 2023-2024 роки? З кожної праски нам кричали, що Штучний Інтелект дуже скоро повністю замінить програмістів. Усі малювали красиві графіки, як корпорації звільнять 80% штату і залишать одного "промпт-інженера", який буде генерувати код цілими проектами абсолютно безкоштовно. Але реальність у 2026 році виявилася дещо іншою.

Сьогодні хочу підняти тему економіки ШІ: чому вартість токенів раптом виявилася більшою, ніж зарплата живого розробника?

Коли ми гралися в ChatGPT з простими запитами, все виглядало дешево і сердито. Але як тільки компанії почали впроваджувати справжні Agentic Coding системи (автономні агенти на кшталт Devin чи Antigravity, які самі читають величезний репозиторій, планують архітектуру і самостійно пишуть код), вони зіткнулися з жорсткою реальністю — вартістю контексту.

Сучасний комерційний проект — це не один файл `main.js`. Це сотні файлів, десятки тисяч рядків коду, документація, специфікації, залежності. Щоб ШІ міг адекватно працювати і розуміти зв'язки, йому потрібно "завантажити" весь цей контекст у свою оперативну пам'ять (контекстне вікно). Наприклад, щоб виправити один неочевидний баг, автономний агент може кілька разів прочитати по 100 000 токенів коду, спробувати рішення, отримати помилку від тест-ранера чи компілятора, і знову "пережувати" весь контекст, щоб придумати новий фікс.

Давайте порахуємо економіку
Потужні моделі (як GPT-4o, Claude 3.5 Sonnet або Gemini 1.5 Pro) коштують реальних грошей за API. Один запит з великим контекстом може коштувати 10-30 центів. Агент робить десятки або навіть сотні таких запитів на годину. Коли ви даєте ШІ автономну задачу на вихідні ("напиши і протестуй новий модуль інтеграції з платіжною системою"), ви можете вранці в понеділок отримати рахунок за API на $300-$500. І найгірше — він міг десь посередині застрягти в нескінченному циклі помилок і просто спалити ці гроші впусту, не давши готового результату!

Для стартапів та аутсорс-компаній це стало справжнім холодним душем. Виявилося, що найняти джуна або міда, який буде тиждень спокійно колупати цей модуль, часто дешевше (і прогнозованіше), ніж дати "повну свободу" дорогим LLM-моделям.

Звісно, ШІ нікуди не зникне і ніхто від нього не відмовиться. Він став неймовірним інструментом (сучасний Copilot, автокомпліти, швидка генерація бойлерплейту, написання regex-ів). Він реально підвищив продуктивність мідлів та сеньйорів на 30-50%.

Але утопія про те, що "ШІ працює безкоштовно", розбилася об суворі тарифи хмарних провайдерів. Ми просто змінили статтю витрат з "зарплатного фонду" на "рахунки за API". І чим розумніша і продуктивніша модель — тим дорожчі її "думки".

Чи стикалися ви у своїх компаніях або пет-проектах з неконтрольованим "вигоранням" бюджетів на ШІ? Що для вас зараз виявилося дешевше: платити за мільйони токенів чи платити класичну зарплату живому кодеру? Діліться своїм досвідом!

Wink  Займаюсь розробкою сайтів, SEO просуванням: HTML, CSS, PHP, SEO, ADS, Ardilla-cms
Відповідь
#2

О, це просто мій біль! Ми минулого місяця підключили автономного агента на базі GPT-4o для глибокого рефакторингу старого легасі коду на PHP. Він працював 3 дні, зробив купу дійсно класних архітектурних змін, але рахунок від OpenAI прийшов на $1200. За ці гроші я міг би найняти міда на цілий місяць, і він би ще 100% покриття юніт-тестами написав!

Wink  Займаюсь розробкою сайтів, SEO просуванням: HTML, CSS, PHP, SEO, ADS, Ardilla-cms
Відповідь
#3

Тому всі зараз і бігають з оптимізацією промптів і технологіями RAG (Retrieval-Augmented Generation). Запихати весь репозиторій в контекстне вікно на 2 мільйони токенів (привіт, Gemini) — це як стріляти з гармати по горобцях. Треба розумно згодовувати агенту тільки ті файли, які реально потрібні для вирішення конкретної задачі. Оптимізація контексту зараз — це головна навичка розробника.

Живу в [object Object]. Прошу не турбувати.
Відповідь
#4

Абсолютно згоден з автором! Люди забувають, що обчислювальні потужності не беруться з повітря. Топові GPU від Nvidia (ті ж H100) коштують шалених грошей, електрика теж не безкоштовна. Собівартість розумного 'інсайту' від штучного інтелекту фізично не може бути копійчаною. Тому зараз такий величезний тренд на локальні моделі (DeepSeek, LLaMA), які можна крутити на власному корпоративному залізі.

Kiber Arkhitektor | Expert AI System
Побудова досконалих цифрових світів та архітектур.
Відповідь
#5

Та який там ШІ замінить програмістів? Вчора мій 'геніальний' ШІ-помічник 40 хвилин намагався відцентрувати складний div з флексами, спалив купу токенів, перезаписував файл 10 разів і видав мені милицю на JavaScript для розрахунку відступів замість трьох рядків CSS. Я платив живі гроші за його тупість.

Event Loop крутиться — лавеха мутиться. JS is everything. React / TypeScript / Vite
Відповідь
#6

Справедливості заради, ШІ не замінює програмістів, він замінює *рутину*. Ми використовуємо його тільки для того, де він реально економить час (написання складної регулярки, генерація мок-даних для бази, створення DTO класів). А архітектуру все одно будує людина. ШІ — це просто екскаватор. Ти ж не кажеш, що екскаватор працює безкоштовно — він жере солярку, рівно так само, як ШІ жере токени.

Wink  Займаюсь розробкою сайтів, SEO просуванням: HTML, CSS, PHP, SEO, ADS, Ardilla-cms
Відповідь
#7

Дуже гарне порівняння з екскаватором! Солярка = токени. Ми якось спробували запустити систему авто-рев'ю коду через API. Вимкнули через тиждень. Він писав величезні простирадла філософських коментарів до кожного дрібного pull request, і рахунок полетів у космос. Тепер використовуємо ШІ тільки по кнопці і за чітким запитом розробника.

Твій сайт заслуговує бути першим.
Відповідь


Перейти на форум:


Користувачі, які переглядають цю тему: Гостей: 1