d/acc: Огляд і перспективи через рік

Минулого року я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними вигодами, які вони приносять, а також висловив обережне ставлення до деяких специфічних проблем, зосередившись головним чином на ризиках, які можуть виникнути через надзвичайно розумний штучний інтелект.

Основна ідея статті полягає в дотриманні принципів децентралізації, демократії та диференційованої оборонної прискорювальної концепції. Слід прискорювати розвиток технологій і водночас зосереджуватися на тих технологіях, які можуть підвищити нашу обороноздатність, а не завдати шкоди, та прагнути розподілу влади, а не концентрації її в руках небагатьох еліт.

Протягом року, що минув з того часу, ці ідеї та концепції зазнали значного розвитку та зрілості. Я ділився цими думками на кількох платформах і отримав багато відгуків, більшість з яких були позитивними, хоча, звичайно, були й критичні голоси.

Ця робота продовжує рухатися вперед і приносити реальні результати: у сфері перевірених відкритих вакцин ми стали свідками прогресу; усвідомлення цінності здорового повітря в приміщеннях постійно поглиблюється; спільнотні нотатки продовжують відігравати позитивну роль; прогнозні ринки стали важливими інструментами інформації, відзначивши проривний рік; нульові знання були застосовані в урядовій ідентифікації та соціальних мережах; відкриті інструменти візуалізації знайшли своє використання в медицині та мозкових інтерфейсах тощо.

Минулої осені ми відзначили першу важливу подію d/acc: "День відкриттів d/acc", який відбувся на Devcon. Захід зібрав спікерів з різних стовпів d/acc і тривав цілий день. Люди, які багато років працювали над цими технологіями, все більше розуміють роботу один одного, а зовнішні особи все більше усвідомлюють цю більш грандіозну мету: спільні цінності, що просувають розвиток Ethereum та криптовалют, можуть розширитися до більшого світу.

Значення та межі d/acc

Основна ідея d/acc є простою та зрозумілою: децентралізований, демократичний і диференційований захисний прискорювач. Створення технологій, які сприяють зміщенню балансу атак та захисту на користь захисту, без покладання на передачу більшої влади центральним органам під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай може процвітати, коли захист легко реалізувати, а зазнає серйозних викликів, коли захист стикається з численними труднощами.

Розуміння спроби одночасно реалізувати децентралізацію, захисність та прискорення важливою є один із способів порівняти це з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

Це схоже на те, щоб стати ефективним прискорювачем, але при цьому прагнути децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які виявляють більш м'який ентузіазм до "децентралізованого штучного інтелекту" та подібних тем, але, на мій погляд, їхня увага до "оборонних" аспектів явно недостатня.

Цей спосіб, можливо, зможе уникнути ризику диктатури над глобальним людством з боку певних груп, але він не вирішує потенційні структурні проблеми: у середовищі, що сприяє атакам, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисника і зайняти домінуючу позицію на постійній основі. Щодо штучного інтелекту, він також не може належним чином вирішити ризик ослаблення влади людства в цілому у порівнянні зі штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для деяких людей. Нещодавно деякі люди висловлювали занепокоєння, що крайній централізований контроль може бути єдиним способом подолання майбутніх екстремальних технологій. Проте централізований контроль має проблему ступеня. Одна форма, зазвичай ігнорована, але все ще шкідлива, відносно помірного централізованого контролю, проявляється в опорі публічного нагляду в галузі біотехнологій, а також у дозволі на такі дії без оскарження закритими стандартами.

Очевидні ризики цього підходу, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, профінансовані кількома основними світовими урядами, могли бути джерелом пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я протягом багатьох років відмовлялася визнати, що коронавірус передається повітрям, а обов'язкове соціальне дистанціювання та примусові вакцинації викликали політичний відгук, який може тривати десятиліттями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що виходять від самого центру.

Децентралізований захист, але виключає прискорення

Суть в тому, що це намагання сповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, загалом, технологічний і економічний ріст є надзвичайно корисними для людства, будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, у світі, що не є тоталітарним, стагнація є нестабільною: ті, хто найбільше "шукає способи обманути систему", здатні знайти здавалося б розумні способи продовжувати розвиток, отримають перевагу. Стратегії уповільнення можуть спрацювати в певних конкретних контекстах, але ці стратегії не можуть діяти вічно.

За допомогою d/acc ми прагнемо досягти наступних цілей:

• Дотримуватися принципів в умовах зростаючої племінності сучасного світу, а не сліпо будувати різні речі - навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Визнання експоненційного технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у всесвіті неминуче буде зростати. Наша здатність захищати в脆ких тварин, рослин та людей від шкоди повинна постійно зростати, і єдиний шлях вперед — це сміливо рухатись вперед.
• Створення технологій, які дійсно захищають нас, а не ґрунтуються на припущенні, що "добрі люди ( або добрий штучний інтелект ) контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для створення та захисту, ніж для руйнування.

Розгляд d/acc з іншого ракурсу - це повернення до рамки руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.

Наша мета - створити світ, який зможе зберегти людську активність, реалізувати негативну свободу, тобто уникнути активного втручання з боку інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи, щоб у нас були знання та ресурси для здійснення цієї здатності. Це відгукується на традиції класичного лібералізму, яка триває вже кілька століть, і охоплює увагу до "отримання інструментів", а також підкреслює важливість освіти та свободи як ключових елементів прогресу людства. Враховуючи технологічний ландшафт XXI століття, ми можемо розглядати d/acc як один з шляхів до досягнення цих самих цілей.

Третій вимір: співзростання виживання та процвітання

У моїй статті минулого року d/acc особливо зосередилася на захисних технологіях: фізичній, біологічній, кібернетичній та інформаційній обороні. Проте простого децентралізованого захисту недостатньо для побудови великого світу: нам також потрібне проактивне позитивне бачення, яке чітко окреслює, яких цілей людство може досягти після здобуття нової децентралізації та безпеки.

Минулий рік стаття дійсно містила позитивне бачення в двох аспектах:

1. Уважно розглядаючи виклики надзвичайного інтелекту, я запропонував шлях, яким ми можемо досягти надзвичайного інтелекту, не втрачаючи влади:

   • Зараз потрібно будувати штучний інтелект як інструмент, а не як високоавтономний агент.
   • У майбутньому, використовуючи інструменти віртуальної реальності, електроміографії та мозкових інтерфейсів, буде створено більш тісний механізм зворотного зв'язку між штучним інтелектом та людиною.
   • З часом, поступово наближаючись до остаточного результату, а саме, що суперінтелект є продуктом тісної інтеграції машин і людства.

2. Говорячи про інформаційну оборону, я також згадав, що, крім тих захисних соціальних технологій, які спрямовані на допомогу спільноті у збереженні згуртованості та веденні якісних дискусій у разі нападу, існують прогресивні соціальні технології, які можуть допомогти спільноті легше приймати якісні рішення.

Існує єдина модель у різних сферах, а саме: наука, ідеї та інструменти, які можуть допомогти нам "вижити" в певній сфері, тісно пов'язані з наукою, ідеями та інструментами, які можуть сприяти нашому "процвітанню". Ось кілька конкретних прикладів:

• Багато недавніх досліджень щодо боротьби з COVID-19 зосереджено на тривалій присутності вірусу в організмі, що вважається ключовим механізмом проблеми довгого COVID. Нещодавно також з'явилися ознаки того, що тривала присутність вірусу може бути патогенним фактором хвороби Альцгеймера – якщо це припущення вірне, вирішення проблеми тривалої присутності вірусу в усіх типах тканин може стати ключем до подолання проблеми старіння.
• Низьковартісні та мікроіміджингові інструменти мають величезний потенціал у лікуванні мікротромбів, тривалих вірусних інфекцій, раку тощо, а також можуть бути використані в галузі мозкових інтерфейсів.
• Ідеї щодо створення соціальних інструментів, які підходять для високо конфліктних середовищ, і соціальних інструментів для раціонального співробітництва є надзвичайно схожими.
• Прогнозні ринки мають важливу цінність як у середовищі високої співпраці, так і високої протидії.
• Нульові знання та подібні технології, що здійснюють обчислення даних, захищаючи при цьому конфіденційність, не тільки збільшують обсяги даних, які можна використовувати для наукових досліджень та інших корисних робіт, але й зміцнюють захист конфіденційності.
• Сонячна енергія та акумулятори мають величезне значення для сприяння наступній хвилі зростання чистої економіки, а також демонструють відмінні результати в децентралізації та фізичній стійкості.

Крім того, між різними науковими дисциплінами існує важлива взаємозалежність:

• Інтерфейси мозок-машина є надзвичайно важливими як технологія інформаційної оборони та співпраці, оскільки вони дозволяють більш точний обмін нашими думками та намірами. Інтерфейси мозок-машина - це не просто зв'язок між роботами та свідомістю: вони також можуть бути взаємодією між свідомістю-роботом-свідомістю. Це резонує з цінністю інтерфейсів мозок-машина в концепції множинності.
• Багато біотехнологій залежать від обміну інформацією, а в багатьох випадках люди готові ділитися інформацією тільки тоді, коли впевнені, що вона буде використана лише для конкретного застосування. Це залежить від технологій конфіденційності.
• Технології співпраці можуть бути використані для координації фінансування в будь-якій іншій галузі технологій.

Складна проблема: Безпека штучного інтелекту, терміни та регуляторні труднощі

Минулого року найбільш переконливі заперечення до моєї статті надійшли від спільноти безпеки штучного інтелекту. Їхня аргументація була такою: "Звичайно, якщо у нас буде півстоліття, щоб розвинути сильний штучний інтелект, ми можемо зосередитися на створенні всіх цих корисних речей. Але насправді, здається, що у нас може бути лише три роки для розвитку загального штучного інтелекту і ще три роки до суперінтелекту. Тому, якщо ми не хочемо, щоб світ опинився в руйнуванні або в іншій незворотній ситуації, ми не можемо просто прискорити розвиток корисних технологій, але також повинні сповільнити розвиток шкідливих технологій, що означає, що потрібні потужні регуляторні заходи, які можуть розсердити владу."

Якщо я впевнений, що нам потрібні "сильніші" заходи, ніж правила відповідальності, я виберу стратегію глобальної "м'якої паузи" на апаратному забезпеченні промислового масштабу. Мета полягає в тому, щоб в критичні моменти мати можливість знизити глобальну доступну обчислювальну потужність приблизно на 90%-99% на термін від 1 до 2 років, щоб дати людству більше часу для підготовки. Способи реалізації "пауза" вже досліджуються, включаючи деякі конкретні пропозиції, такі як вимога реєстрації апаратного забезпечення та перевірки місцезнаходження.

Більш просунутим підходом є використання хитромудрих криптографічних технологій: наприклад, промислове виробництво (, але не споживчого рівня ) апаратного забезпечення для штучного інтелекту може бути оснащене надійним апаратним чіпом, який активується лише після щотижневого отримання даних від основних міжнародних установ (, включаючи принаймні