d/acc: Огляд і перспективи через рік

Минулого року я опублікував статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними перевагами, які вони можуть принести. Водночас я також висловив обережне ставлення до певних конкретних проблем, особливо щодо надінтелектуального ШІ та ризиків, які він може принести, зокрема ризиків, що призведуть до незворотної втрати влади людиною.

Основна ідея цієї статті полягає в пропагуванні концепції децентралізованого, демократичного та різноманітного захисного прискорення. Ми повинні прискорити розвиток технологій, але вибірково зосереджуватися на тих технологіях, які можуть посилити захисні можливості, а не руйнівні, і прагнути до децентралізації влади, а не до концентрації її в руках меншості еліти. Захисна модель повинна нагадувати демократичну Швейцарію, а не лордів і замки середньовічного феодалізму.

Протягом минулого року ці ідеї зазнали значного розвитку та зрілості. Я поділився цими ідеями на платформі "80,000 годин", отримав багато відгуків, більшість з яких були позитивними, звичайно, були і деякі критики.

Ця робота сама по собі також досягла суттєвого прогресу: верифіковані відкриті вакцини досягли прориву; усвідомлення здорового внутрішнього повітря постійно поглиблюється; "громадські нотатки" продовжують відігравати активну роль; ринок прогнозів став проривом року як інформаційний інструмент; нульові знання знаходять застосування в ідентифікації особи урядом та в соціальних мережах; відкриті інструменти візуалізації досягли прогресу в медицині та області мозкових інтерфейсів тощо.

Минулої осені ми провели нашу першу значну подію d/acc: "День відкриття d/acc". Захід об'єднав спікерів з різних стовпів d/acc ( біології, фізики, мереж, інформаційної безпеки та нейротехнологій ) і тривав цілий день. Люди, які протягом тривалого часу займалися цими технологіями, почали більше дізнаватися про роботи один одного, а зовнішні особи також все більше усвідомлюють цю велику мету: що цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути поширені на більш широкий світ.

Значення та зміст d/acc

Основна ідея d/acc дуже проста: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які здатні спонукати до балансу сил, що схиляється до оборони, без залежності від передачі більшої кількості повноважень центральним органам влади в процесі реалізації. Між цими двома аспектами існує внутрішній зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли оборона легко реалізується, і стикається з серйозними викликами, коли оборона стикається з численними труднощами.

Розуміння спроби одночасно реалізувати децентралізацію, обороноздатність та прискорення важливе значення можна досягти шляхом порівняння з ідеєю відмови від одного з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони": це схоже на те, щоб стати ефективним акцелераціоністом (e/acc), але при цьому переслідувати децентралізацію. Такий підхід може уникнути ризику диктатури певної групи над глобальним людством, але не вирішує потенційних структурних проблем: у середовищі, що сприяє атаці, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисника і постійно займати домінуюче положення.

Диференційована оборона прискорюється, але ігнорує "децентралізацію і демократію": прийняття централізованого контролю для досягнення цілей безпеки завжди має привабливість для частини людей. Однак існує проблема ступеня централізованого контролю. Ризики цього підходу очевидні: саме центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19.

Децентралізована оборона, але відторгнення прискорення: це, по суті, спроба загальмувати технологічний прогрес або сприяти економічному спаду. Ця стратегія стикається з подвійними викликами: по-перше, технологічний і економічний зріст загалом є надзвичайно корисними для людства, будь-яке затримання призводить до важко вимірюваних витрат; по-друге, в неавторитарному світі стагнація є нестабільною.

Ми прагнемо досягти наступних цілей через d/acc:

• Дотримуватися принципів в умовах зростаючої племінності світу, а не просто сліпо створювати різні речі.
• Визнання експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, а загальний "слід" людства у Всесвіті неминуче буде постійно зростати. Наша здатність захищати в脆кі тварини, рослини та громади від шкоди повинна постійно покращуватися, і єдиний шлях вперед - це рухатися вперед.
• Створити технології, які насправді захищають нас, а не ґрунтуються на припущенні "добрих людей ( або хороших AI ), які контролюють все". Ми досягаємо цієї мети, створюючи інструменти, які природно більше ефективні для побудови та захисту, ніж для руйнування.

Інша точка зору на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наделення повноваженнями. Наша мета полягає в тому, щоб побудувати світ, який зможе зберегти людську активність, досягти негативної свободи, тобто уникати активного втручання з боку інших (, будь то звичайні громадяни, уряди чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, а також досягти позитивної свободи, тобто забезпечити, щоб у нас були знання та ресурси для реалізації цієї здатності.

Третій вимір: співробітництво в розвитку виживання та процвітання

У моїй статті минулого року d/acc особливо зосереджувалась на оборонних технологіях: фізичній обороні, біологічній обороні, кіберобороні та інформаційній обороні. Однак простого децентралізованого захисту недостатньо для створення великого світу: нам також потрібен прогресивний позитивний погляд, який чітко визначає, які цілі людство може досягти після отримання нової децентралізації та безпеки.

У всіх сферах існує єдина модель, а саме: науки, ідеї та інструменти, які можуть допомогти нам "вижити" в певній сфері, тісно пов'язані з науками, ідеями та інструментами, які можуть сприяти нашому "процвітанню". Ось кілька конкретних прикладів:

• Багато недавніх досліджень щодо боротьби з COVID-19 зосереджені на тривалій присутності вірусу в організмі, що вважається ключовим механізмом проблеми тривалого COVID. Нещодавно також з'явилися ознаки того, що тривала присутність вірусу може бути патогенним фактором хвороби Альцгеймера. Якщо ця точка зору підтвердиться, то вирішення проблеми тривалої присутності вірусу в усіх типах тканин, можливо, стане ключем до подолання проблеми старіння.

• Низьковартісні та мікроіміджингові інструменти, такі як ті, що розробляє Openwater, мають великий потенціал у лікуванні мікротромбів, тривалої присутності вірусів, раку тощо, а також можуть бути застосовані в галузі мозкових інтерфейсів.

• Сприяти створенню соціальних інструментів, що підходять для високоантагоністичного середовища (, таких як громадські нотатки ), та соціальних інструментів для раціональної співпраці (, таких як Pol.is ), є надзвичайно схожими.

• Прогнозні ринки мають важливу цінність як у середовищі високої співпраці, так і високої протидії.

• Нульові докази та подібні технології обробляють дані, захищаючи при цьому конфіденційність, що не лише збільшує обсяги даних, які можуть бути використані для наукових досліджень та інших корисних робіт, але й посилює захист конфіденційності.

• Сонячна енергія та батареї мають велике значення для стимулювання наступної хвилі чистого економічного зростання, а також демонструють відмінні результати в децентралізації та фізичній стійкості.

Крім того, між різними науковими дисциплінами існує важлива взаємозалежність:

• Інтерфейси мозок-комп'ютер є надзвичайно важливими як технологія інформаційної оборони та співпраці, оскільки вони дозволяють більш тонкий обмін нашими думками та намірами. Інтерфейси мозок-комп'ютер - це не лише зв'язок між роботами та свідомістю: вони також можуть бути взаємодією між свідомістю-роботом-свідомістю.

• Багато біотехнологій залежать від обміну інформацією, і в багатьох випадках люди готові ділитися нею лише в тому випадку, якщо впевнені, що інформація буде використовуватися лише для конкретних цілей. Це залежить від технологій конфіденційності (, таких як нульові знання, гомоморфне шифрування, технології розплутування тощо ).

• Технології співпраці можуть бути використані для координації фінансування в будь-якій іншій галузі технологій.

Складна проблема: безпека ШІ, терміновість і регуляторні труднощі

Минулого року найпереконливіші заперечення моєї статті надала спільнота з безпеки ШІ. Їхній аргумент такий: "Звичайно, якщо у нас буде півстоліття, щоб розвинути сильний ШІ, ми можемо зосередитися на створенні всіх цих корисних речей. Але насправді виглядає так, що у нас може бути лише три роки для розвитку загального ШІ, а ще через три роки - для розвитку суперінтелекту. Тому, якщо ми не хочемо, щоб світ потрапив у руйнацію або якимось іншим чином в опірні обставини, ми не можемо лише прискорити розвиток корисних технологій, а також повинні уповільнити розвиток шкідливих технологій, що означає необхідність впровадження потужних регуляторних заходів, які можуть розгнівити владу." У моїй статті минулого року, окрім неясного заклику не створювати ризиковані форми суперінтелекту, я справді не представив жодної конкретної стратегії "уповільнення розвитку шкідливих технологій". Тож тут необхідно безпосередньо обговорити це питання: якщо ми опинимося у найбільш неприйнятному світі, де ризики ШІ надзвичайно високі, а часові рамки можуть бути лише п’ять років, які регуляторні заходи я б підтримав?

Причини обережного ставлення до нових регуляцій

Минулого року основною пропозицією щодо регулювання ШІ стало законодавство SB-1047 штату Каліфорнія. SB-1047 вимагає від розробників найпотужніших моделей (, тобто тих, вартість навчання яких перевищує 100 мільйонів доларів або вартість доопрацювання перевищує 10 мільйонів доларів, вжити ряду заходів безпеки перед випуском. Крім того, якщо розробники моделей ШІ не проявлять достатньої обережності, вони будуть нести відповідальність. Багато критиків вважають, що цей законопроект "становить загрозу для відкритого коду"; я з цим не згоден, оскільки порогові значення витрат означають, що він вплине лише на найпотужніші моделі: навіть модель Llama3 може бути нижче цього порогу. Тим не менш, оглядаючись назад, я вважаю, що у цього законопроекту є більш серйозна проблема: як і більшість регуляторних заходів, він надто адаптований до сучасних умов. Зосередження уваги на витратах на навчання виявилось вразливим у світлі нових технологій: нещодавно розроблена передова модель DeepSeek v3 має вартість навчання лише 6 мільйонів доларів, і в нових моделях, таких як o1, витрати зазвичай більше переміщуються на етап висновку.

Найбільш ймовірні дії, відповідальні за сцену знищення супервмілого ШІ

Насправді, найімовірніше, що за сценарієм знищення суперінтелекту штучного інтелекту стоятимуть армії. Як ми спостерігали за останні півстоліття в біобезпеці ) та раніше (, армії готові вжити деяких жахливих заходів, і вони дуже схильні до помилок. Сьогодні застосування ШІ в військовій сфері швидко розвивається ), як у випадку з Україною та Газа (. І будь-які заходи безпеки, ухвалені урядом, за замовчуванням звільняють від дії власні збройні сили та компанії, які тісно співпрацюють з армією.

Стратегія реагування

Незважаючи на це, ці аргументи не є причиною для нашої бездіяльності. Навпаки, ми можемо використовувати їх як орієнтир, намагаючись розробити правила, які найменше викликають ці занепокоєння.

Стратегія 1: Відповідальність

Якщо чийсь вчинок якимось чином завдав шкоди, за яку можна притягнути до відповідальності, його можуть судити. Це не вирішує проблеми ризиків, пов’язаних з військовими та іншими "тими, хто вище закону" особами, але це дуже загальний підхід, який дозволяє уникнути надмірної адаптації, саме тому економісти, які схиляються до лібертаризму, зазвичай підтримують цей підхід.

Основні цілі відповідальності, які розглядаються до теперішнього часу, такі:

• Користувач: особа, яка використовує штучний інтелект.
• Розробник: посередник, який надає користувачам послуги штучного інтелекту.
• Розробник: людина, яка створює штучний інтелект.

Здається, що покладення відповідальності на користувачів найбільше відповідає механізму заохочення. Хоча зв'язок між способом розробки моделі та її остаточним використанням часто не є чітким, користувачі визначають конкретні способи використання ШІ. Притягнення користувачів до відповідальності створює потужний тиск, що спонукає людей використовувати ШІ так, як я вважаю правильним: зосереджуючись на створенні механічного набору для людського мислення, а не на створенні нового «я».