konets_tsitati (konets_tsitati) wrote,
konets_tsitati
konets_tsitati

Categories:

В двух словах: «2062: время машин» Тоби Уолша

В 2062 году мне стукнет 77 лет. Каким будет мир вокруг? В 2019-м я точно знаю, что он необратимо изменится, но еще не знаю, как. А потому с особенным интересом читаю книгу Тоби Уолша, который заглянул на максимально возможное, если не играть в нострадамусов, расстояние — 40 лет. Именно к 2062 году, по мнению экспертов, мы создадим искусственный разум, который превзойдет возможности человека.

Почти все главы этой книги начинаются со слова «конец»: «Конец работы», «Конец войны»… подождите радоваться, потому что еще есть главы «Конец частной жизни», «Конец Запада» и, как если бы было мало, «Конец наших ценностей» и «Конец сознания». Останемся ли мы собой?



1. Homo digitalis

Человек создал пирамиды, покорил огонь и полетел в космос. Но несмотря на все удивительные достижения разума мы вскоре будем заменены. Почти все следы Homo sapiens будут стерты с лица земли так же, как когда-то следы неандертальцев. Человек разумный заменил неандертальцев, потому что обладал развитой речью — благодаря этому предки получили возможность передавать друг другу ценные знания. Язык подарил нам истории, мифы, религии. Но компьютеры превосходят людей в обучаемости, обмениваясь друг с другом кодами без всяких ограничений. Если один компьютер научился диагностировать рак кожи, это с равным успехом смогут сделать все остальные компьютеры. Такой способ обучаемости открывает компьютерам широкие перспективы, в том числе в областях, ранее считавшимися чисто человеческими (творчество).

2. Наш конец

Как скоро мы сдадимся? Пока компьютеры сильны в способности решать одну конкретную задачу: читать кардиограммы или изучать интернет, чтобы предсказать курс акций. Они не умеют хорошо объяснять свои решения: могут опознать на фото кошку, но не могут сказать, как они определили это. У ИИ нет цельного представления о мире: яблоко у него не ассоциируется с законом тяготения. Сингулярность (пока) сильно разрекламирована. В опросе 50 нобелевских лауреатов (Times Higher Education, 2017) ИИ проигрывает климату и Трампу.

3. Конец сознания

Пока мы и сами не знаем, что такое сознание, не говоря о том, чтобы к 2062 году загрузить его в облако. Насколько известно, ни одна часть мозга не отвечает за него. Ограниченным уровнем сознания обладают и животные. Но не AlphaGo: она даже не знает о том, что играет в го. Но нет гарантий, что ситуация не изменится. Сознание: 1) может быть запрограмировано, 2) возникнет само в результате усовершенствования компьютеров, 3) может быть ими усвоено. № 1 наименее вероятен: как запрограммировать то, в чем мы и сами не разбираемся? И потом — что, если в 2062 году ИИ вообще не будет иметь сознания? Как насчет интеллекта без сознания (посмотрите на осьминогов — самых разумных из всех беспозвоночных).

4. Конец работы

В 2062 году мы будем работать меньше дней в неделю. До индустриальной революции многие работали по 60 часов в неделю, после ИР эта цифра сократилась до 40 часов, а у нас сегодня есть несколько недель отпуска в году. И мы будем выполнять гораздо меньший объем работы. Но не такой малый, как кажется сегодня. Надо различать «закрытые» и «открытые» работы. В закрытых (например, мойщики окон или водители) набор обязанностей строго ограничен — и они будут автоматизированы (если это будет рентабельно: с технической точки зрения работа мастера по починке велосипедов будет автоматизирована, с экономической — в этом нет смысла: это не самая высокооплачиваемая работа, а робот недешев). Открытые работы лишь расширяются в результате автоматизации. Например, ученые. Вряд ли химия, которую можно изучать, когда-нибудь закончится.

5. Конец войны

Одна из профессий, которая исчезнет благодаря автоматизации — это работа солдата. И это внушает ужас. Автономные системы вооружения (АСВ) станут третьей военной революцией — после пороха и атомной бомбы. И АСВ опаснее их обеих. Небольшой дрон и пара граммов взрывчатки не требуют большой научной работы, как в случае с ядерным оружием. Первая мысль: АСВ станут орудием террора. А еще они, как любые роботы, могут ошибаться, и цена таких ошибок невероятно высока. Уолш убежден: мы можем контролировать этот процесс с помощью деклараций ООН и прочих решений на высоком уровне, хотя пока дело идет туго.

6. Конец наших ценностей

В 2015 году некто Джеки Алсине обнаружил, что Google Foto отмечает самого Джеки и его подружку как горилл. Так как проблему нельзя было решить элементарным способом, Google просто удалил отметку «горилла». Но самой машине неизвестно, что такое «расизм» и «оскорбление». Машины не разделяют наших ценностей — однако они копируют наши предрассудки и, что хуже, учатся на предвзятых данных (владельцам компьютеров Mac сайты предлагают более дорогие отели; Facebook продавал рекламу, направленную на «противников евреев»). Проблема в том, что предвзятость не так легко устранить из процесса. Большая часть машинного обучения — это решение, какого рода предвзятостью наделить программу. Так что, прежде чем доверить ИИ принятие решений, нам самим нужно четко сформулировать собственные ценности. В этом смысле «золотой век философии» — это не время Аристотеля; это — сейчас.

7. Конец равенства

Мы живем в счастливое время: впервые число людей, живущих в крайней нищете, упало ниже 10%. Свыше 90% населения планеты до 25 лет умеют читать. Однако пока жизнь а планете улучшалась для низших слоев, разрыв между ними и богатыми стремительно увеличивался. А средний класс вообще никак не участвует в обогащении. К 2062 году мы увидим серьезный рост неравенства в нашем обществе. Как распределять пользу, которую ИИ принесет (и уже приносит) технологическим корпорациям, пока неясно.

8. Конец частной жизни

В 2013 один из создателей Google Винт Серф озвучил мысль: «частная жизнь, возможно, аномальна». Мол, она лишь порождение индустриальной революции. Это верно: в Средние века жизнь, например, была куда менее частной. Но сегодня на наших данных зарабатывают. Данные — это новая нефть, с той разницей, что они, в отличие от нефти, ни дороги, ни дефицитны. Кремниевая долина вполне представляет себе не только кто вы такой, но и как вы проголосуете. Дело не только в самих данных, а в их связанности. Адрес отправителя и размер письма мало что сообщат злоумышленнику, он не видит содержание письма. Но при сочетании их с другими данным можно многое узнать о том, с кем вы общаетесь и чем занимаетесь. Даже когда мы офлайн, за нами все равно следят. Так, в 2013 году обнаружилось, что «умные мусорные баки» в Лондоне отлеживали мобильники. К 2062 году за нами будет следить весь город. Наблюдение не закончится, когда вы зайдете домой: Цукерберг и Сноуден недаром заклеивают камеру на ноутбуке. Вскоре мы уступим и нашу аналоговую приватность — вплоть до сердцебиения, которое считывает фитнес-браслет. Наши цифровые оболочки помогают нам врать. Но в аналогом мире врать куда сложнее — мы не можем напрямую контролировать сердцебиение. Как долго еще наши личные данные будут в самом деле нашими?

9. Конец политики

Примеров того, как технологии меняют ход политической борьбы, уже довольно много: вспомните Египет или Трампа. При этом наибольшее влияние в соцсетях имеют не люди, а машины. У Трампа 48 млн подписчиков в Твиттере, а 14 млн из них — фальшивые страницы. Папа римский имеет еще более худшие показатели: из 17 млн его подписчиков 10 млн — фейки. К 2062 году вы уже не сможете отличить настоящего политика от фальшивого. Мы уже знаем, что фотографиям доверять нельзя — да и видео тоже. К 2062 году нельзя будет доверять ничему, что мы видим или слышим, если мы при этом не присутствуем.

10. Конец Запада

Да, сегодня Google отвечает на 8 из 10 поисковых запросов по всему миру. Но поисковик Baidu — на 4 месте в списке самых посещаемых сайтов мира. Amazon оценивается в 750 млрд долларов, а Alibaba — в 500 млрд., и она развивается быстрее. Итак, Китай наступает на пятки. После победы AlphaGo над Кэ Цзэ в 2017 году китайское правительство анонсировало план — стать мировым лидером в области ИИ к 2030 году. Кажется, нет причин сомневаться в успехе. Китай долгое время отставал в этой сфере, но быстро адаптируется к новым технологиям: например, он уже лидирует по количеству мобильных платежей. И не заморачивается на приватности своих граждан.

11. Конец

Мы приближаемся к критической точке человеческой истории. Нам хватает проблем и кроме технологий, а тут еще ИИ со всеми вытекающими. Но Уолш уверен: к будущему не надо приспосабливаться, оно — результат решений в настоящем. Поэтому мы можем его выбирать. Мы можем рассмотреть законы, ограничивающие владение данными. Можем обязать платформы нести ответственность за контент. Нам нужно разделить большие корпорации, чтобы вернуть конкуренцию на цифровой рынок. Ключевые слова: мы можем и должны.
Tags: будущее, в двух словах, мозг, мышление, нон-фикшн
Subscribe

  • Существительное и глагол

    Читаю и перечитываю новую книгу Александра Гениса «Кожа времени» (2020). В ней автор прощается с прошлым (часть I «Некрологи»), ловит настоящее…

  • Конец модерна

    Странная эта идея с разрезанием толстых книг пополам, «потому что так удобнее», «и вообще — не страшно читать»; но — больше, чем курьёз.…

  • Селф-хелп и науч-поп на века

    Остряки переназывают классику на современный лад. Лучшее: Philosophiæ Naturalis Principia Mathematica (Newton) → Why Do Apples Fall Down and Not…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments