Каждый клик, который вы делаете, может способствовать формированию цепочек в бывшем свободном обществе, предупреждают эксперты
Однажды мы беспокоились о том, как избавиться от растущих куч мусора. Или ядерные отходы.
Хотя эти проблемы все еще с нами, все больше и больше внимания привлекает снежный ком данных, хранящихся в компьютерных системах мира, и то, как это повлияет на человеческую расу.
Объем данных, которые мы производим в нашем мире, в основном основанном на Интернете, удваивается каждый год, говорят ученые в статье в журнале Scientific American «Выживет ли демократия больших данных и искусственного интеллекта?» По их словам, в прошлом году мы произвели столько данных, сколько за всю историю человечества до 2015 года. А с новинками практически каждый день проблема будет только усугубляться:
Каждую минуту мы производим сотни тысяч поисковых запросов в Google и постов в Facebook. Они содержат информацию, которая показывает, как мы думаем и чувствуем. Вскоре окружающие нас вещи, возможно, даже наша одежда, тоже будут связаны с Интернетом. По оценкам, через 10 лет в сети будет 150 миллиардов измерительных датчиков, что в 20 раз больше, чем людей на Земле. Затем объем данных будет удваиваться каждые 12 часов.
Но вопрос не в том, куда девать все эти данные, как в случае с мусором или ядерными отходами. Вопрос в том, что с этим можно сделать и как это повлияет на нашу конфиденциальность и личные решения.
«Многие компании уже пытаются превратить эти большие данные в большие деньги», - говорят авторы статьи, первоначально опубликованной в немецком журнале Spektrum der Wissenschaft, дочернем издании Scientific American.
“Все станет разумным; скоро у нас будут не только смартфоны, но и умные дома, умные фабрики и умные города», - говорят авторы, среди которых Дирк Хелбинг, профессор вычислительных социальных наук в ETH Zürich. «Должны ли мы также ожидать, что эти разработки приведут к появлению умных наций и более умной планеты?»
Но это не просто данные, ожидающие использования. Авторы говорят, что искусственный интеллект живет собственной жизнью и манипулирует большими данными:
Это способствует автоматизации анализа данных. Искусственный интеллект больше не программируется построчно, а теперь способен к обучению, тем самым непрерывно развиваясь. Недавно алгоритм Google DeepMind научился выигрывать в 49 играх Atari. Алгоритмы теперь могут распознавать рукописный язык и шаблоны почти так же хорошо, как люди, и даже выполнять некоторые задачи лучше, чем они. Они умеют описывать содержание фото и видео. Сегодня 70% всех финансовых транзакций выполняются алгоритмами. Новостной контент частично генерируется автоматически. Все это имеет радикальные экономические последствия: в ближайшие 10-20 лет около половины сегодняшних рабочих мест будут находиться под угрозой из-за алгоритмов. 40% из сегодняшних 500 крупнейших компаний исчезнут через десять лет. Можно ожидать, что суперкомпьютеры вскоре превзойдут возможности человека практически во всех областях - где-то между 2020 и 2060 годами. Эксперты начинают бить тревогу. Технологические провидцы, такие как Илон Маск из Tesla Motors, Билл Гейтс из Microsoft и соучредитель Apple Стив Возняк, предупреждают, что сверхразум представляет собой серьезную опасность для человечества, возможно, даже более опасную, чем ядерное оружие. Это алармизм? Ясно одно: то, как мы организуем экономику и общество, коренным образом изменится. Мы переживаем крупнейшую трансформацию со времен окончания Второй мировой войны; после автоматизации производства и создания беспилотных автомобилей следует автоматизация общества. При этом общество находится на распутье, что сулит большие возможности, но и немалые риски. Если мы примем неверные решения, это может поставить под угрозу наши величайшие исторические достижения.
Поддерживая авторов, не кажется ли это паникерством? Ну, есть пример из жизни - в Китае.
Недавно Baidu, китайский аналог Google, пригласил военных принять участие в проекте China Brain Project. Он включает в себя запуск так называемых алгоритмов глубокого обучения над данными поисковой системы, собранными о ее пользователях. Кроме того, планируется своего рода социальный контроль. Согласно последним сообщениям, каждый гражданин Китая получит так называемую «оценку гражданина», которая будет определять, на каких условиях он может получить кредит, работу или туристическую визу в другие страны. Этот вид индивидуального мониторинга будет включать в себя серфинг людей в Интернете и поведение их социальных контактов.
Конечно, обычно мы не думаем о Китае как о свободном обществе. Но даже на либеральном Западе есть множество признаков того, что Большой Брат воплотился и все больше проявляется. Возможно, именно поэтому роман Джорджа Оруэлла 1948 года «1984» недавно приобрел новую популярность. Авторы статьи в журнале Scientific American ссылаются на тот факт, что потребители все чаще сталкиваются с проверками кредитоспособности, а некоторые интернет-магазины экспериментируют с персонализированными ценами.
«Также становится все более очевидным, что мы все находимся в центре институциональной слежки», - отмечают они. «Это стало известно в 2015 году, когда обнародованы подробности программы британской секретной службы «Полиция кармы», демонстрирующей всестороннюю проверку использования Интернета всеми».
Но, возможно, большую угрозу конфиденциальности представляет способность сбора данных и алгоритмов подсказывать потребителю то, что он хочет, обманывая его тем, что он принимает решения самостоятельно, когда на самом деле он находится под контролем Большого Данные.
Не только бизнес заинтересован в использовании технологии. Это также правительство, которое «подталкивает» граждан к определенным действиям. «Новое заботливое правительство не только заинтересовано в том, что мы делаем, но и хочет убедиться, что мы делаем то, что оно считает правильным. Волшебная фраза - «большое подталкивание», которая представляет собой комбинацию больших данных с подталкиванием».
Общество находится на распутье, предупреждают авторы, и существует риск «значительного ущерба», если технологии не будут совместимы с нашими основными ценностями. «Они могут привести к автоматизированному обществу с тоталитарными чертами. В худшем случае централизованный искусственный интеллект будет контролировать то, что мы знаем, о чем думаем и как действуем». Таким образом, авторы выдвинули ряд основополагающих принципов, которым необходимо следовать, включая децентрализацию функционирования информационных систем; повышение прозрачности; включение управляемых пользователем информационных фильтров и поощрение ответственного поведения граждан в цифровом мире посредством цифровой грамотности и просвещения.
