Саркис Дарбинян: «Чиновники тоже не хотят, чтобы ФСБ читало их переписки»

Саркис Дарбинян, киберадвокат, сооснователь «Роскомсвободы», сегодня в Лиссабоне. Основная тема разговора с ним: как меняется цифровой мир сегодня, во время войны и чего нам ждать завтра. Прогнозы Саркиса, мягко говоря, нерадужные. В его логике – ближайшее будущее России с точки зрения контроля над Интернетом – это введение так называемого «белого списка», то есть списка разрешенных ресурсов. Остальное государство будет пытаться блокировать. Всеми доступными средствами будет навязываться Max как единственный легальный мессенджер в Сети. И универсальная платформа для слежки, о чем, конечно, вам не скажут. Да и за пределами России развитие цифровых технологий пришло к очень опасному рубежу – нерегулируемый прогресс искусственного интеллекта сегодня заставляет относиться к сюжетам Терминатора и Матрицы как вполне релевантному прогнозу на относительно недалекое будущее. Не решит ли буквально через несколько лет ИИ, что люди слишком серьезная угроза для планеты? А если решит – что предпримет?

Расскажите о себе.

— Меня зовут Саркис Дарбинян. Я киберадвокат, сооснователь общественной организации «Роскомсвобода». Родился я у Тихого океана, в Петропавловске-Камчатском. Карьеру свою сделал в Москве. Там же получил адвокатский статус, практиковал. До начала войны развивал свой бизнес и занимался правозащитной деятельностью. В основном это литигация, адвокация в отношении цифровых прав россиян. А теперь я здесь, в Лиссабоне. Продолжаю заниматься тем, чем я занимался, практиковать в сфере киберпространства, помогать российским гражданам, организациям, в том числе справляться с тем большим количеством правовых рисков, которые возникают в интернете, и пытаемся, конечно, строить мосты для разделяющегося на глазах интернета.

В двадцать первом году вы были признаны криптоюристом десятилетия. Могли бы рассказать, за что получили это звание?

— Я занимался тем, что сопровождал первые кейсы в Российской Федерации, которые были связаны с ограничением доступа к сайтам, связанным с криптовалютной тематикой. Поэтому, конечно, за эти годы я приобрёл большое количество клиентов, связанных с крипто. Это и крупные российские игроки в сфере обмена криптовалют, различные российские проекты, которые выходили на международный рынок. И, конечно, до войны ещё международный бизнес приходил в Россию, крупные компании, вроде Binance, вроде Chiliz, и мы помогали им приземляться на российскую почву, тогда ещё не настолько агрессивную с точки зрения регулирования. А вот, наверное, за мою практику, за мою работу, связанную с тем, чтобы информация о криптовалютах и биткоине распространялась свободно, я и получил эту премию.

Вы были успешным юристом. Почему решили заниматься правозащитой?

— В правозащиту я пришёл через бизнес. Я был инхаус-юристом одной из крупных российских организаций, которая занималась производством кино и музыки и дистрибуцией этой музыки в России, в том числе по правам, приобретённым на Западе. И моя задача была — это, собственно, вычищать торрент-трекеры и интернет от пиратских копий фильмов и музыки. Как юрист я этим занимался. И тогда впервые я подумал о том, что что-то всё-таки в этой системе не сильно справедливо, потому что я сам был из пиратского поколения, которое привыкло качать, копировать, и для нас это всегда было нормально. И тут мне поступали рабочие задачи, что я должен был с того же трекера, с которого я скачиваю музыку и фильмы для себя, удалять какие-то произведения. И это меня привело в «Пиратскую партию», которая в тот момент создавалась в России.

Большой интерес к идеям свободы информации, свободы культуры и необходимости изменения законодательства об авторском праве привёл к более, наверное, широкому пласту идей, связанных со свободным интернетом. И как раз в 2012 году Россия принимает первый «закон о защите детей». Это произошло для всех достаточно внезапно. И, естественно, это было открытие ящика Пандоры, потому что именно с 1 ноября 2012 года мы считаем, что была основана российская онлайн-цензура, и Роскомнадзор в этот день получил свои полномочия как главного цензора страны, превратившись из малоизвестного органа, который занимается радиочастотами, в один из, наверное, самых влиятельных государственных органов, который определяет цифровую повестку.

Тогда мы в «Пиратской партии» решили запустить общественный проект «Роскомсвобода». На тот момент это был такой гражданский симметричный ответ на Роскомнадзор. Отсюда и название наше появилось. И единственная цель, которую мы ставили перед собой, — сделать цензуру транспарентной. То есть, как говорил Джулиан Ассанж, чтобы наблюдаемый был тоже наблюдаем. И мы создали реестр для того, чтобы следить за тем, кто, на основании чего и когда и какие именно сайты, IP-адреса, домены вносит в этот единый реестр информации. Вот, собственно, с этого всё началось.

Тогда мы ещё не представляли, что мы станем полноценной общественной организацией. И, конечно, от идей изменения законодательства об авторском праве мы пришли к более широкому спектру всяких идей, связанных со свободной информацией. И потом мы начали заниматься в том числе и цифровой приватностью, защитой от слежки, которая в тот момент уже набирала обороты. Первые откровения Сноудена, первые законы по российскому СОРМу, дело Романа Захарова в ЕСПЧ. И, наверное, с этого момента «Роскомсвобода» решила, что она будет заниматься защитой цифровых прав россиян. И мы начали использовать множество разных способов: это и юридические, и адвокационные, и, конечно же, технические. Мы начали разрабатывать собственные инструменты, которые помогают людям обходить цензуру и защищать себя в суровый век цифровой слежки.

Как на вас повлияла война?

— Война повлияла на всех нас, очевидно. Во-первых, конечно, первые эмоции, никто не верил, что это возможно, и первые эмоции были связаны со злостью, с большой досадой, огорчением, с потерей. И после того, как нам уже, наверное, пришлось покинуть Россию, после иноагентства, после начала уже достаточно широкомасштабных репрессий и в отношении моих клиентов, доверителей, друзей, журналистов, с кем я работал, конечно, я понял, что оставаться в России уже невозможно, я уехал. И, естественно, всё это время болела душа за то, что происходит в стране.

Конечно, было очень жалко, наверное, весь тот прогресс, который мы добились за многие годы в плане работы как такой общественный институт. И было уже ясно, что война обнуляет всё это, что всё это не имеет значения. Вся предыдущая деятельность, то, что мы говорили, что мы из себя представляли, — мы, конечно, стали другими людьми. И наша основная задача, наверное, сегодня — я не хочу говорить пафосно, остановить войну, хотя, конечно, все мы хотим, чтобы она быстрее закончилась, вряд ли это в наших силах, — но мы можем, по крайней мере, создать возможности, когда в условиях закрывающегося абсолютно чебурнета люди могут получать информацию, и мы можем поддерживать ту замечательную работу наших коллег из медиа, правозащитных организаций, которые, несмотря на все сложности, продолжают делать свою работу, которые помогают освещать ужасы войны и доносить их до российских граждан, которые акцентируют и фокусируют внимание россиян, находящихся под жёсткой пропагандой, на то, что действительно происходит в российской политике, в правозащитном комьюнити, в медиа.

Прощание с домом для нас всех было непросто, но мы приняли эти условия и теперь пытаемся, не забывая про Россию, всё также делать какие-то важные, нужные проекты, которые помогут нашему комьюнити и помогут тем жителям России, у которых не было такой привилегии, как у нас, уехать и начать свою жизнь заново.

А как война повлияла на Россию в цифровом плане? Можете перечислить, что россияне потеряли за эти три уже с половиной года?

— Мне кажется, война на самом деле подвергла Россию очень серьёзному испытанию. И если до этого законодательство, которое принималось в России, да, имело признаки такого авторитарного, то, конечно, с войной государство и законодательство начало скатываться уже в более, мне кажется, тоталитарный формат регулирования. И сегодняшняя Россия… конечно, без слёз не взглянешь на то, что произошло с цифровой Россией, потому что на сегодняшний день кажется, что это колоссальный откат на 20 лет назад, когда мобильный интернет только приходил в Россию.

И, конечно, все мы помним наши замечательные сервисы, которые появлялись тогда. И Россия была действительно в авангарде. Она была одна из, наверное, лидеров по развитию цифровых услуг, электронного государства, вообще цифровизации экономики. Поэтому действительно людям настолько сейчас больно и обидно понимать это положение, потому что все они помнят ещё очень быстрый, недорогой интернет с доступом ко всем мировым сервисам, к которым люди за десятилетия очень привыкли. Не только люди, а весь бизнес начал перестраиваться, внедрять свои службы поддержки, витрины, сервисы, вроде WhatsApp, Instagram, YouTube был основной площадкой.

Это отличает очень сильно Россию от Китая или Ирана, с которыми сейчас Россию часто сравнивают. Но в отличие от Китая и Ирана, в России эти сервисы были. Там-то их никогда не было, и люди особо к ним не успели привыкнуть. А, конечно, то, что мы видим сейчас, — мобильные шатдауны, «белые списки», ограничения доступа к звонкам, абсолютно непрозрачные блокировки, — всё это говорит, что, наверное, это уже не изменится, и теперь Россия вынуждена плестись в технологическом хвосте.

Если мы говорим глобально, потому что все международные компании ушли, те российские компании, которые создавались в эпоху ещё свободного интернета и которые имели все шансы конкурировать с такими гигантами, как Facebook и Google, теперь обречены стать лишь суверенными государственными российскими сервисами без каких-либо очевидных инноваций. И что самое главное, что в эпоху вот этой вот ожесточённой гонки за суперискусственным интеллектом (AGI) Россия уже никогда не сможет догнать такие страны, как США и Китай. Естественно, невозможно развивать технологии без доступа к международной научной базе, к технологиям западных компаний, которые больше с Россией не делятся.

Поэтому суверенный интернет, на самом деле, сделал большую работу. Я бы сказал, что, наверное, суверенный интернет, конечно же, поверг Россию в каменный век. И, естественно, то, что мы видим как очевидные последствия войны и то, что власти называют временным решением, конечно же, имеет все шансы стать решениями постоянными. И ещё кажется, что пока мы не достигли самого дна, в августе этого года произошло несколько, наверное, событий, которые серьёзно меняют положение дел. Вещи, которые мы прогнозировали как, наверное, одни из самых страшных и бесперспективных. И вот они начались. Это начало такой ползучей криминализации контента, введение административной ответственности уже за умышленный поиск и доступ к экстремистским материалам. Это «белые списки» по иранской модели с обрезанным интернетом, который предоставляют гражданам. Поэтому, да, наверное, мы ожидаем, что события ещё могут развиваться. И те законы, которые сейчас в августе были внесены, конечно, в следующих итерациях получат ещё более широкие репрессивные возможности для преследования россиян.

Очевидно, Кремль сегодня хочет уже не только контролировать медиа и российское киберпространство, которое он почти уже всё захватил, но теперь хочет залезть в карман каждому жителю, каждому пользователю интернета. И не просто контролировать то, как они коммуницируют, о чём они говорят, но и, конечно же, менять пользовательское поведение, что является куда более страшным последствием такой тотальной цензуры.

Для тех, кто не в курсе, что значит введение «белых списков» для пользователей интернета? — С 2012 по 2020 год, 8 лет, Россия жила по так называемым «чёрным спискам». В основном вся цензура в стране происходила руками операторов связи. Они были такие делегированные агенты, которые по требованию государства и под страхом наказания должны были что-то там блокировать, то, что выгружает им Роскомнадзор. Ситуация поменялась в двадцатом году, с приходом в девятнадцатом году уже, принятием закона о суверенном интернете и установкой так называемых ТСПУ — технических средств противодействия угрозам. По сути, это такая коробка. Это программно-аппаратный комплекс, который ставится на узлы операторов связи. И с двадцатого года все операторы связи обязаны весь свой трафик перенаправлять через эти коробки. Поэтому, что происходит в этих сетях, как блокируется информация, теперь не знают ни сами операторы связи, и не знаем мы в «Роскомсвободе», которые мониторят этот реестр запрещённой информации уже 13 лет. Цензура стала действительно менее прозрачной, но всё-таки это всё ещё «чёрные списки».

«Чёрные списки», по сути, означают, что государство блокирует определённый вид информации. Переход к «белым спискам», по сути, значит, что мы переходим к совсем другой концепции: разрешено всё то, что не запрещено. Это иранская модель регулирования, когда все сетевые адреса, все IP-адреса, на которых работают мобильные приложения, веб-интерфейсы, сайты, — все они переписаны надзорным органом. Соответственно, в «белый список» попадают лишь прямо утверждённые национальные компании, в которых государство имеет интерес. В «серый список» входят все те адреса и ресурсы, которые принадлежат западным компаниям, которые не «приземлились» в стране. Всё остальное представляет из себя «чёрный список». То есть всё, что не имеет хозяина, либо, допустим, иранский регулятор не может понять, кому принадлежит эта подсеть или конкретный IP-адрес. В таком случае он блокируется.

И это модель, в которой очень плохо работают различные VPN, которые по своему принципу должны подключаться к удалённому серверу извне. Учитывая, что Иран блокирует практически всё, то VPN и подключаться-то особо не к чему. Поэтому в стране работают только особо устойчивые инструменты вроде Psiphon либо инструменты с какой-то обфускацией, которые умеют обманывать эти системы. Но это, конечно, концепция более строгой цензуры, при которой возможности обхода этих ограничений становятся очень затруднительными. Это, конечно, не модель Туркменистана ещё, в котором вообще монополию на международный интернет имеет одна компания. В условиях отсутствия какой-либо конкуренции компания может полностью перекрыть этот шлюз, и тогда никто в стране никакого доступа ни с какими инструментами не получит.

Ну вот сегодня «белые списки» были представлены как такое временное решение, которое министр Шадаев буквально 2-3 недели назад представил публике. Собственно, они предполагают, что это может быть решением во время мобильных шатдаунов, которые стали нормой, мне кажется, с мая этого года, когда Москва и Питер во время празднования очередного 9 мая показали регионам, что выключать интернет — это нормально и что им за это ничего не будет. Поэтому регионы, не думаю, что прямо сильно бы хотели отключать интернет, но, судя по всему, не могут придумать каких-либо других мер, которыми можно было бы отчитаться перед федеральным центром о том, что ведутся какие-то профилактические работы по отражению атак беспилотников.

Теперь эта идея сводится к тому, что по этому «белому списку» россиянин будет подключаться к вышкам мобильной связи. После этого оператор сотовой связи будет запрашивать у них определённую капчу. Ну, примерно как в Стамбульском аэропорту, когда вы должны ввести какой-то код или номер своего договора, и тогда вы получаете доступ к «белому списку» сервисов, который утверждает Минцифры. Очевидно, в этом списке находятся в основном подконтрольные российские компании: Mail.ru, «ВКонтакте», «Яндекс» со своими доставками и такси. И вот таким способом министр Шадаев считает, что он обеспечит, по крайней мере, хоть какое-то право россиян на доступ к сервисам, чтобы они совсем не оказывались в каменном веке.

Это то, что сейчас начали раскатывать власти по всей стране, от Камчатки до Калининграда. А я напомню, что мобильные шатдауны происходят и происходили в течение этого лета почти уже по всем субъектам Российской Федерации, даже очень далёким от поля боя, например, на моей родной Камчатке, где также интернет днями не подключался и всё ещё работает очень плохо. И это тоже объяснялось борьбой с дронами, которых, конечно же, после операции «Паутина» российские власти очень боялись, боялись, что они выскочат как чёрт из табакерки где угодно. Поэтому мобильные шатдауны стали теперь нормой, и Россия выбилась в лидеры по количеству шатдаунов в течение года, опередив Индию, которая традиционно всегда находилась номер один в этом списке.

Как вы считаете, почему россияне так безропотно приняли и замедление Ютюба, и отсутствие мобильного интернета в некоторых городах, и блокировку мессенджеров?

— Мысли такие, что люди, конечно, выходят на протест лишь только тогда, когда чувствуют, что это безопасно. Да, если люди понимают, что их там будут стрелять или сажать в тюрьмы, очевидно, ни в одной стране никакие люди ни на какие протесты не выйдут. Россияне протестовали, протестовали громко и шумно во время принятия «закона Яровой» или во время блокировки Telegram. Все мы помним огромное количество людей на площади Сахарова, конечно, с самолётиками, с флагами. Это происходило не только в Москве, и в Питере, и в других городах. И, конечно, люди сопротивлялись, как могли, высказывая своё мнение через правозащитные организации и сами.

Очевидно, после того, как все институты были разрушены, нет никакой возможности для такого явного, откровенного протеста. Поэтому, мне кажется, протест переместился в карман человека. То есть люди ушли не только во внутреннюю эмиграцию, они начали заниматься такой внутренней, я бы сказал, борьбой с цензором на уровне собственных устройств. VPN теперь — это не только инструмент для обхода блокировок. По сути, это оружие гражданского неповиновения, которым пользуется сейчас большое количество россиян. Мы видим это по тому спросу, который есть на различные инструменты обхода блокировок.

И мы видим, что не очень-то хотят россияне прощаться не только там с «Медузой», и «Новой газетой», и телеканалом «Дождь». Но и, конечно, не хотят они прощаться с любимыми сервисами, к которым они так сильно привыкли. Они хотят смотреть YouTube, они хотят развлекаться в Инстаграме, они хотят использовать Telegram и WhatsApp. И, конечно же, любая попытка это ограничить, она вызывает вот такой протест. Но протест не явный, а протест тихий, когда люди устанавливают все возможные средства обхода ограничений. Мы это видим, потому что трафик Ютюба-то не сильно падает у тех каналов, которые россияне смотрели до его замедления.

И мне кажется, вот это и становится сейчас главной борьбой, когда уже, конечно, никакая другая борьба невозможна, когда нет судов, когда люди знают, что никто их права там не защитит, никто их не услышит и, естественно, никто не сможет им помочь. Поэтому я не думаю, что россияне в этом плане чем-то сильно отличаются от других жителей. И даже я бы, если сравнивать со странами цифрового авторитаризма, сказал, что россияне, конечно, куда более свободны, потому что за многие годы они всё-таки к этой свободе очень привыкли. Поэтому не всё ещё потеряно, привычки так быстро не меняются.

И, конечно, несмотря на то, что Кремль пытается сейчас насильно, таким административным бустом, пересадить всех на мессенджер Max, мы видим, что массовой миграции не происходит. Да, люди скорее будут устанавливать его на второй телефон либо располагать этот Max где-то по соседству с WhatsApp и Telegram, но они не хотят переводить туда свои приватные и рабочие разговоры. Более того, интересно, что наибольший протест переходить в Max сейчас мы видим у всяких госчиновников, правоохранительных органов, самих военных, которые не хотят, чтобы ФСБ читала их переписки, понимая, что репрессии могут прийти и за ними. И мне кажется, это весьма интересное явление. Но чтобы эти привычки поменялись, должно пройти ещё не менее 10 лет, может быть, даже должно вырасти новое поколение, которое никогда в глаза не видело ни Instagram, ни YouTube. Вот тогда есть шанс, что какое-нибудь «VK Видео» и Max станут для них основными средствами коммуникации, получения информации.

Как вы считаете, после массового перехода на мессенджер Max государство запретит все остальные мессенджеры?

— Для меня это кажется, что уже вопрос решённый. Это вопрос времени, когда это произойдёт. Мы ожидали, что это может произойти 1 сентября. Возможно, ещё не была готова платформа для такой массовой миграции. Поэтому это может произойти 1 января, может произойти в ближайший год, но я думаю, что конечно же, нет никаких сил у Кремля терпеть WhatsApp и Telegram, которые являются номер один и номер два по количеству трафика в России. При этом WhatsApp, напомню, принадлежит запрещённой экстремистской организации, что совершенно не бьётся со всей концепцией суверенного интернета. А Telegram, несмотря на все нападки на мессенджер Дурова, является платформой, где пользователи могут без каких-либо проблем получить и прочитать всё то, что запрещает Роскомнадзор в «белом» интернете. Там и каналы «Медузы», там и продажа VPN, там же и обмен криптовалюты. Это опять же совершенно не бьётся с той политикой Кремля, которую они объявили ещё несколько лет назад. Поэтому, на мой взгляд, конечно, надо готовиться к тому, что ни один мессенджер в России работать не будет.

Мы к чему сейчас идём? К Китаю, Северной Корее или Ирану?

— Сегодня, мне кажется, мы идём, конечно же, по своему особому русскому пути, но в своей политике, в своих практиках Кремль опирается на, скажем так, best practice мировых цензоров. Конечно, идёт взаимодействие и с китайской коммунистической партией, и с Ираном, конечно, перенимаются всякие практические вещи и опыт этих стран, как они душили интернет, душили различные сервисы. Сейчас Россия во многом всё больше уже, конечно, напоминает Китай. Хотя, конечно, есть различия и в порядке организации системы цензуры, но тем не менее вот мы видим, что теперь у нас в России появился этот мессенджер Max, аналог китайского WeChat, который не давал покоя Кремлю.

Но в этом плане здесь российские власти постарались больше даже, чем китайские, потому что когда запускался WeChat, никакого закона о национальном мессенджере не было. Это было такой постепенный разгон частной инициативы, которая превратилась в главную платформу, на которую опиралась Коммунистическая партия. Сегодня, мне кажется, планы стоят большие на Max. И здесь это не только инструмент для контроля информации, где будет, конечно же, жёстко фильтроваться любой контент. Сейчас это инструмент слежки. Об этом уже заявляют и военные комиссары, что они будут не только отправлять цифровые повестки призывникам, но также отслеживать их местонахождение и ловить тех, кто бежит от войны.

Помимо этого, я думаю, что в ближайшее время Россия может повторить китайский путь в плане разворачивания так называемых CBDC, или государственных цифровых валют. Этим летом Россия приняла федеральный закон о плановом внедрении цифрового рубля. Напомню, что цифровой рубль — это совершенно новая форма монетарной политики государства, которая не имеет никакого отношения ни к криптовалюте, ни к классическому рублю, которым оперируют банки. По сути, цифровой рубль будет чеканиться Центробанком. Им же и отслеживаться, банки в этой истории ему уже не нужны. Собственно, это приведёт к полной потере финансовой анонимности, к полной потере банковской тайны, потому что любая копейка, которая отчеканена ЦБ, будет отслеживаться до последнего получателя по закрытому государственному блокчейну.

И, конечно, я думаю, что здесь российские власти пойдут тем же путём, как пошли китайцы. То есть разворачивание цифрового юаня как раз через WeChat, наиболее популярный мессенджер, без которого жизнь в Поднебесной невозможна. Она очень неудобна. И цифровой рубль, думаю, имеет все шансы быть внедрён именно в платформу Max, в другие государственные решения на уровне софта. Ну и я не исключаю, что тот же Max, так же как и WeChat, может использоваться как платформа для социального рейтинга, если вдруг Кремль решит, что пора запускать и оценивать граждан не только потому, что они сказали в интернете, как это происходит сейчас, но потому, как они живут свою офлайн- и онлайн-цифровую жизнь.

«1984» Оруэлла в России воплотился уже в жизнь. А насколько реальны антиутопии, где искусственный интеллект захватывает власть?

— Мы все очень боимся, конечно, «Скайнета», особенно в правозащитном комьюнити. Это та, наверное, общая проблема, тот конценрн, который сейчас испытываем не только мы, российские правозащитники, но и правозащитники по всему миру. Сейчас, немножко отходя от России, которая, конечно же, никаких выдающихся заслуг в области искусственного интеллекта не имеет, мы переместимcя, наверное, немножко в США, там, где основные сейчас языковые модели появляются, которые захватывают мир. И, конечно, у США больше всего шансов получить этот AGI, этот суперискусственный интеллект, за которым все гонятся. Но попытки получить его уже настолько стали безумными, что, конечно, очень пугает нас перспектива неконтролируемого развития технологии.

Естественно, это очень опасная технология. Это технология двойного назначения, которая может использоваться в самых разных областях, в том числе и, например, в военной промышленности. Да. Вот недавно мы как раз обсуждали: в Питере запустили… ну, ни для кого не секрет, что технология распознавания лиц давно применяется в России. Вот в Питере запустили камеры с распознаванием лиц по этносу, который определяет, азиат, кавказец там или ещё какой-нибудь этнос. Для чего она это делает? Для того, чтобы, конечно же, устраивать облавы, охоты на мигрантов и так далее. Ну, конечно, эта технология может быть внедрена и в боевые дроны, роботы, которые могут летать и, определяя человека по черепу или этносу, просто его уничтожать, да? Просто на сегодняшний день кажется, что Россия не запускает подобные технологии там в конфликте с Украиной, потому что, очевидно, лица украинцев и россиян настолько похожи, что ИИ не сможет совершить такую операцию без каких-то видимых ошибок. Но это, конечно, всё нас очень сильно пугает.

И самый главный вопрос — это этика искусственного интеллекта и возможности контроля его поведения. Сейчас те модели, которые выпускаются, кажется, что не обращают никакого внимания на те ошибки, галлюцинации, которые выдаёт искусственный интеллект. И несмотря на эти страшные истории, которые мы слышим, тем не менее никто не приостанавливает и тем более не пытается изучить глубинное влияние всех этих моделей. Буквально недавно появились две концепции по развитию искусственного интеллекта, которую выпустила сначала США и потом Поднебесная, Китай. На удивление, китайская концепция и стратегия по развитию ИИ оказалась куда более гуманной и человекоцентричной, чем американская, потому что трамповская администрация полностью удалила оттуда любые упоминания прав человека, необходимости так называемого Human Rights Impact Assessment, то есть оценки влияния этих технологий на права человека. И, по сути, Трамп дал зелёный свет технологичным компаниям Америки, невзирая на попытки международных организаций как-то начать регулировать эту сферу, полностью раскатывать эту технологию на весь мир, что является, конечно, очень страшным явлением, потому что теперь все мы являемся участниками этого огромного глобального эксперимента, и что будет в дальнейшем, как он поведёт себя, как он будет влиять на наши жизни, — кажется, что это очень мало заботит корпорации, которые запускают всё более мощные и мощные модели.

И буквально неделю назад первый иск к OpenAI в Америке появился в связи с тем, что ChatGPT довёл подростка до самоубийства, потакая его желаниям. И, конечно, это будет большой кейс в Америке, к которому сейчас приковано внимание всех. Но если мы посмотрим глобально, то, знаете, есть такой мем, что США создаёт, Китай дублирует, а Европа регулирует. Да, и все сейчас смеются над старушкой Европой, что её законодательство, так называемый AI Act, который был принят и вступил в силу в этом году, будет тормозить развитие систем искусственного интеллекта в Европе, что тоже отбросит Европу немножко назад. Но мне кажется, это совершенно правильный подход. Потому что, ну давайте посмотрим, что даже лекарства не выпускают сразу и всем. Чтобы какое-то лекарство попало на рынок, оно проходит много лет клинических испытаний: сначала на мышах, собаках, потом на людях, и лишь потом оно попадает к нам. А с ИИ всё не так.

Поэтому, естественно, возможности «Скайнета» всё ещё туманны, и мы не понимаем, что произойдёт после тридцатых годов. В основном все учёные сейчас указывают на эту дату — двадцать девятый-тридцатый год, когда AGI уже появится и, естественно, уже не мы будем принимать решение обновлять наш софт, обновлять наши системы и другие языковые модели. Всем этим будет заниматься AGI. И как он это будет делать, мы не знаем. Мы лишь хотим надеяться на то, что он всех нас не истребит как, наверное, главную угрозу планете Земля и, конечно же, ему самому, который никак не сможет жить самостоятельно, понимая, что над ним находится этот контролёр, человек с куда более слабым интеллектом, но пытающийся сохранить контроль.

То есть «Терминатор» и «Матрица» реальны уже в ближайшее время?

— Да, я думаю, что где-то, знаете, от какой-нибудь замятинской и оруэлловской антиутопии, кажется, что мы здесь приближаемся к какой-то более классической истории с восстанием машин, которую мы смотрели ещё в первых сериях «Терминатора». И сейчас это уже не кажется таким уж нереальным. Очень серьёзно шагнула и робототехника. Конечно, развивается AI. Скоро это всё начнёт работать, и роботы станут вместе с нами жить в одних и тех же городах. Сначала сожительствуя, ну а потом, возможно, и отделяясь от нас.

Чего вы боитесь больше всего?

— Больше всего я, наверное, боюсь, что мы не умрём от старости в своих постелях. Иногда кажется, что напряжение в мире достигло уже такого масштаба, что, конечно, любая искра может повлечь уничтожение большей части планеты. Либо это будет действительно человеческий фактор, и у кого-то сдадут нервы, особенно если начнётся крупномасштабная война между Китаем и США. И это уже будет действительно третья мировая война, не то, что происходит сейчас. И, конечно, я боюсь, что, как говорит, по-моему, доктор Курпатов, четвёртая мировая будет на палках, да, если только мы проживём и выживем после третьей мировой. Вот этого, наверное, я боюсь больше всего: что наше человеческое желание сохранять контроль и нежелание садиться за один стол и определять вместе судьбу человечества и планеты может рано или поздно привести вот к такой серьёзной конфронтации, жертвами которой станем мы все.

О чём мечтаете?

— Я мечтаю, что технологии, которые сегодня в основном используются для контроля людей, будут перебиты технологиями, которые людей освобождают. И, слава богу, такие технологии есть. Интернет — это первая технология, которая действительно уменьшила власть суверенов. И интернет напугал многих. Сначала в интернет пришли крупные корпорации и Голливуд для того, чтобы контролировать потоки информации. Как я сказал, мы тоже начинали с вопросов авторского права в «Пиратской партии». Потом мы видели, как в интернет пришли государства, понимая, что они теряют контроль над оборотом товаров, которые начали свободно перемещаться в цифре. Они теряют контроль над денежной эмиссией, когда появились электронные средства платежа. Потом появился биткоин, который, конечно же, начал представлять угрозу для традиционных финансовых моделей. Это тоже начало пугать государства.

Одни начали бороться, как Китай, который полностью запретил и майнинг, и оборот криптовалют. Другие, как США, решили возглавить этот процесс, понимая, что бороться с ним невозможно. И теперь администрация Трампа, кажется, оседлала все криптокомпании и использует их в своих целях. Но тем не менее эти технологии появляются. Мы с удовольствием занимаемся проектами, которые создают что-то новое в блокчейне. И это касается не только традиционных вопросов денежных расчётов, но и управления сообществами. Появилась такая замечательная квазисущность, как DAO — децентрализованные автономные организации.

Появился спутниковый интернет, который, кажется, в ближайшее время может покрыть всю планету Земля, давая нам доступ к технологиям в любой точке мира. И кажется, что, естественно, война пока идёт, но она не проиграна, и те же технологии могут освобождать нас. Поэтому, несмотря на такое удручающее видение и русского киберпанка, и «Скайнета» с помощью ИИ, у меня есть ещё и другая надежда, что люди станут свободны, и технологии их освободят и помогут им достичь вот этой всеобщей гармонии и большего понимания друг друга.

Вот, наверное, то, чего нам не хватает. Мы действительно плохо ещё понимаем друг друга. Мы говорим на разных языках, мы не понимаем эти языки. Те же AI-технологии позволят людям скоро говорить на одном языке, вне зависимости от того, где они родились, где они живут и во что они верят. Они смогут понимать друг друга, и, возможно, это позволит им достичь консенсуса для создания совершенно новых моделей и в госуправлении, о которых мы пока ещё только мечтаем. Например, о модели анархии, когда человек может выбирать государство как сервисную компанию. И если вы родились в одном месте, это не значит, что вы должны стать гражданином этой конкретной страны, а у вас будет выбор, стать гражданином какой страны и каким правилам подчиняться. Поэтому, возможно, технологии приведут к тому, что и традиционное понимание государства и права сильно поменяется и поменяет нашу жизнь к лучшему.