“AI” – це хуйовий рух, redux
– Бальдур Б’ярнасон
(Спочатку це було опубліковано як гілку соціальних мереж. Відредаговано та опубліковано тут для нащадків.)
Я припинив спроби обговорювати розробників програмного забезпечення на LLM. Ви могли помітити, якщо стежите за цим блогом. Це безплідна дискусія. Навіть якщо тих, хто вірить в агентів і других пілотів, можна було б зрушити з місця на емпіричних підставах, а останні кілька років дали нам багато доказів того, що вони не можуть, це все одно натовп, який явно схвалює використання інструментів, які самі по собі є глибоко неетичними.
Обговорення людей, які не відпускають «психоз чат-ботів», демонтаж системи освіти, гендерне насильство, генеровані образи CSAM, відкриті напади на медіа-індустрію чи радісне ставлення ультраправих щодо «ШІ», показуючи їм добре сконструйоване академічне дослідження, ніколи не спрацює.
—“Ой, чудовий експериментальний дизайн! Я цілком збираюся сприймати це серйозно, навіть якщо це кидає виклик усьому, що я вірю про себе, і змусить мене переглянути роботу свого життя”ніхто не сказав, ніколи.
Когось, хто здатний помітити, що «ICE використовує магістри права як джерела відповідальності для того, щоб підштовхнути екстремістів через їхні процеси вербування», викликане зловживання або те, як опосередковане чат-ботом відчуження, здається, штовхає вразливих людей до симптомів, схожих на психоз, не переконає значуще дослідження. Їхня мета полягає в тому, щоб зберегти свою особисту вигоду, як вони бачать, і все, що вони роблять, це намагаються домовитися з вами про рівень зловживань, який ви вважаєте прийнятним. Запобігання насильству не входить до їх плану.
Ви втратили їх із самого початку.
Більшість із них до брів потрапили в когнітивні пастки в стилі Чалдіні та повністю втратили з поля зору той факт, що суб’єктивний досвід нічого не говорить вам про вплив на систему, організацію, галузь чи спільноту. Все розумне не почує.
І, здається, їх не хвилює, за винятком перформативного способу, те, що «ШІ» призначений для прямого нападу на працю та освіту, використовуючи роботи тих, хто піддається нападам — без їхньої згоди — як інструменти для демонтажу власних спільнот і галузей, і все це робиться у відвертій співпраці з ультраправими.
Навіть якщо знехтувати контекстом – політичним кліматом, ворожістю до праці, нападами на освіту та медіа, відчуженням, що збільшує ризик психологічних епізодів – ці «системні мислителі», здається, більше не розуміють, що програмне забезпечення — це система, створена на основі праці тисяч людей.
Навіть якби це було правдою, що ефект для них особисто є позитивним, це об’єктивно та явно не масштабується до рівня більшої системи розробки програмного забезпечення. Ми всі це бачимо. Програмне забезпечення як екосистема швидко стало менш стабільним, менш безпечним, гірше розробленим і зовсім менш продуктивним для кінцевого користувача.
У реальній економіці програмного забезпечення стає все погано. Касові апарати, які потрібно перезавантажувати двічі на день. Системи інвентаризації, які випадково відкидають замовлення. Форми претензій, заповнені напівзавершеними рядками локалізації, явно створеними штучним інтелектом. Це лише те, що я почув від людей навколо мене цього тижня. Я бачу все більше і більше з кожним днем.
І я знаю, що ви всі це також бачите.
Ми всі знаємо чому. Величезні запити на отримання, які неможливо переглянути. Коміти, які повсюди. Тести, які нічого не перевіряють. Залежності, які імпортують буквальне шкідливе програмне забезпечення. Проблеми безпеки студентського рівня. Неймовірно багатослівна документація, повністю відірвана від реальності. Старші інженери, які повернулися до студентського рівня розуміння основних питань і не помічають помилок для початківців у своєму коді, незважаючи на те, що вони його «ретельно переглянули». Усіх змушують використовувати інструменти для збільшення продуктивності, навіть якщо вони самі не вважають це безпечним чи правильним.
Програмне забезпечення індустрії програмного забезпечення з кожним місяцем стає значно гіршим. Продукти погіршуються. Платформи стають гіршими. Екосистеми менш безпечні. І робоче середовище жахливе. І це відбувається все швидше і швидше.
Говорити «але для мене це чудово», навіть якщо галузь горить навколо вас, а «це» — це правий політичний проект, побудований на нехтуванні згодою, який використовується для демонтажу громадської інфраструктури та інституцій, — це принципово безглуздий крок.
А сперечатися про діксів безглуздо.
