Вигоряння з ШІ

поговоримо про досить цікаве дослідження, присвячене тому, як генеративний ШІ трансформує вашу роботу. Теоретично, ви мали б працювати швидше, встигати більше або працювати менше; але, як свідчить людська природа, це не так. Замість прискорення ми фактично отримали інтенсифікацію. Тобто ви працюєте інтенсивніше і, як результат, почуваєтеся більш виснаженими.

Проблема очікувань та меж

Проблема полягає в тому, що з появою потужніших інструментів у нас з’являються хибні очікування. Ми не знаємо, як правильно з ними працювати та як будувати належні межі. Результатом цього стає звичайне вигорання, або ж ШІ просто прискорює цей процес.

Економічний розрив та доступ до інструментів

Ще одна окрема тема для дискусії (яку ми, можливо, не будемо детально розглядати в цій статті) — це сегрегація людей за ознакою доступу до GenAI. Наприклад, Claude від Anthropic — надзвичайно потужний. Але якщо ви хочете використовувати його серйозно, з моделлю Opus або в режимі спільної роботи, вам точно потрібна просунута підписка за кілька сотень доларів. Дехто використовує його настільки активно, що витрачає тисячі доларів на день. Чесно кажучи, навіть для мене, як для топового інженера, це забагато, і я ще не вирішив, чи варто воно того.

«Хибне відчуття» та цикли перевірки

Проте інша проблема інтенсифікації — це не лише вигорання. Це хибне відчуття, що вам більше не потрібні інші люди. GenAI заповнює прогалини та дає можливість працювати в сферах, які ви не до кінця розумієте, і видавати результати, які ви не здатні повністю перевірити.

Anthropic навіть підігріває цю проблему заявами про те, що цикл «читання-запис-перевірка» з обдумуванням більше не потрібен, оскільки їхні агенти можуть замінити інтелектуальних працівників. Оскільки багато людей далекі від сфер, де вони мають критичне мислення і могли б належним чином оцінити роботу, вони щиро вірять, що створюють високоякісний продукт у цій галузі.

Еволюція інженерії

Я говорю не лише про інженерію — не зрозумійте мене неправильно. Я не намагаюся захистити тезу, що інженери зникнуть або трансформуються у щось зовсім нове. Повірте, якщо взяти розробника з 60-х чи 70-х років, він був би вражений тим, що ви робите, але водночас розчарований вашим рівнем знань про системи, які ви намагаєтеся побудувати сучасними інструментами. Це просто еволюційний процес, і його не зупинити. Я вже з цікавістю чекаю на майбутнє, де нам не доведеться писати код власноруч.

Парадокс «зміїної олії»

Але я говорю про інший парадокс: зараз ідеальний час для людей, які раніше торгували «зміїною олією» (шарлатанськими ліками), а тепер отримали потужність будувати цілі заводи з виробництва цієї олії в неймовірних масштабах.

Нам варто критичніше ставитися до того, що намагаються продати ШІ-компанії. Коли Anthropic каже, що їхні продукти повністю побудовані самим Anthropic, ми маємо розуміти:

1. Вони мають ексклюзивний доступ до моделей, якого немає в інших.

2. Вони не враховують вартість використання моделей, бо це їхній власний продукт.

Це кардинально змінює ландшафт. Вони особисто зацікавлені переконати вас, що саме так виглядає робочий процес майбутнього, бо їхнє майбутнє залежить від вашого поточного робочого ритму.

Уроки Бертрана Рассела

Нещодавно я публікував інтерв’ю з Бертраном Расселом, де він пояснював, чому марксизм зазнав невдачі. Його головний меседж: ми повинні ставитися до будь-яких філософів з часткою критичного мислення та скепсису. Це «вакцина» від тоталітаризму та перетворення філософії на релігію чи хибну віру.

Я вважаю, що меседж Рассела сьогодні є критично важливим. Я бачу людей, які роблять релігію з ШІ-агентів або «вайб-кодингу» (vibe coding). Вони справді вірять, що можуть «навайбити» що завгодно — що їм не потрібні інженери, архітектори чи продакт-менеджери, бо тепер все, що вам потрібно, — це просто ідея.

Розквіт соло-підприємців

Зараз настав час соло-підприємців, які можуть витрачати тисячі доларів на день на ШІ і нарешті отримати щось реальне. Але ми не говоримо про те, чи може це «щось» масштабуватися, чи воно безпечне і чи має воно ту якість, яка не підведе в майбутньому. У нас просто немає здатності це перевірити. Ми оцінюємо результат з точки зору користувача, а не з точки зору інженерії.

Розумні галюцинації

Те саме стосується досліджень у математиці чи інших науках, де я маю слабкі місця. Іноді я отримую від Claude блискучі ідеї, які виглядають як інсайти, але коли намагаюся перевірити їх за допомогою математичних теорій, бачу, що це просто «розумна галюцинація». Оскільки я маю інженерну освіту, я можу відчути цей «запах» помилки. Але коли люди не мають бази в певній галузі, вони сприймають це як чисту магію. І це проблема.

Підсумок кризи

Отже, ми маємо кілька проблем:

* Ми віримо в магію.

* Ми перетворюємо технології на релігію.

* Замість прискорення ми отримуємо інтенсифікацію, яка веде до швидшого вигорання.

Ще одна велика проблема: багато бізнес-лідерів, які не мають контексту в тих сферах, де працюють їхні команди, починають вірити в цю магію. Вони постійно підвищують планку. Вони очікують, що один інженер тепер виконуватиме роботу цілої команди (або навіть трьох), бо «тепер за три дні можна зробити те, на що раніше йшли тижні».

Це правда, якщо ви будуєте черговий мікросервіс, для якого є повно навчальних матеріалів. Але ми забули сумну правду про CASE-системи 80-х (автоматизована розробка ПЗ), які обіцяли генерувати код із діаграм і зрештою провалилися.

Коли бізнес-лідери та соло-підприємці сліпо вірять у магію ШІ, вони починають швидше «спалювати» і себе, і людей навколо.

Завершальні думки

Я бачу в цьому ознаки пандемії, і це небезпечно для всіх нас. Я не проти ШІ — я користуюся ним щодня. Але нам потрібно застосовувати критичне мислення до всього і уникати перетворення будь-чого на ідолів чи релігію.