В 2016 году, выступая на Всемирном экономическом форуме в Давосе, его президент Клаус Мартин Шваб говорил о «Четвертой промышленной революции»: новой эпохе тотальной автоматизации, создающей конкуренцию между человеческим интеллектом и искусственным интеллектом. Это выступление (как и одноименную книгу) считают поворотным моментом в развитии новых технологий. Многим странам пришлось выбирать, по какому пути они пойдут: приоритет технологий над правами и свободами личности или наоборот? Так технологический поворот превратился в социальный и политический.
О чем еще говорил Шваб и почему это так важно?
Революция изменит баланс сил между людьми и машинами: искусственный интеллект (ИИ) и роботы создадут новые профессии, но и убьют старые. Все это приведет к социальному неравенству и другим потрясениям в обществе.
Цифровые технологии дадут огромное преимущество тем, кто вовремя сделает на них ставку: изобретателям, акционерам и венчурным инвесторам. То же самое касается и государств.
Сегодня в гонке за глобальное лидерство побеждает тот, кто обладает наибольшим влиянием в области искусственного интеллекта. Глобальная прибыль от применения технологий искусственного интеллекта в ближайшие пять лет оценивается в $16 трлн, а бНаибольшая доля достанется США и Китаю.
В своей книге «Сверхспособности искусственного интеллекта» китайский IT-эксперт Кай-Фу Ли пишет о борьбе Китая и США в области технологий, феномене Кремниевой долины и колоссальной разнице между двумя странами.
США и Китай: гонка вооружений
США считается одной из самых развитых стран в области искусственного интеллекта. Глобальные гиганты, базирующиеся в Кремниевой долине, такие как Google, Apple, Facebook или Microsoft, уделяют этим разработкам большое внимание. К ним присоединяются десятки стартапов.
В 2019 году Дональд Трамп поручил создать Американскую инициативу по искусственному интеллекту. Он работает по пяти направлениям:
В Стратегии искусственного интеллекта Министерства обороны говорится об использовании этих технологий для военных нужд и кибербезопасности. При этом еще в 2019 году США признали превосходство Китая по некоторым показателям, связанным с исследованиями в области ИИ.
В 2019 году правительство США выделило около $1 млрд на исследования в области искусственного интеллекта. Однако к 2020 году только 4% руководителей компаний в США планируют внедрить технологию искусственного интеллекта по сравнению с 20% в 2019 году. Они считают, что возможные риски технологии намного превышают ее возможности.
Китай стремится обогнать США в области искусственного интеллекта и других технологий. Отправной точкой можно считать 2017 год, когда появилась Национальная стратегия развития технологий искусственного интеллекта. Согласно ему, к 2020 году Китай должен был догнать мировых лидеров в этой области, а общий рынок ИИ в стране должен был превысить $22 млрд. Они планируют инвестировать 700 миллиардов долларов в умное производство, медицину, города, сельское хозяйство и оборону.
Лидер Китая Си Цзиньпин рассматривает ИИ как «движущую силу технологической революции» и экономического роста. Экс-президент китайской Google Ли Кайфу объясняет это тем, что AlphaGo (разработка головного офиса Google) победила китайского чемпиона по игре в го Кэ Цзе. Это стало технологическим вызовом для Китая.
Главное, в чем страна пока уступает США и другим лидерам, — это фундаментальные теоретические исследования, разработка базовых алгоритмов и чипов на базе ИИ. Чтобы преодолеть это, Китай активно заимствует лучшие технологии и специалистов с мирового рынка, не позволяя при этом иностранным компаниям конкурировать с китайскими внутри страны.
При этом среди всех компаний в сфере ИИ в несколько этапов отбираются лучшие и продвигаются в лидеры отрасли. Подобный подход уже используется в телекоммуникационной отрасли. В 2019 году в Шанхае начали строить первую пилотную зону инноваций и применения искусственного интеллекта.
В 2020 году правительство обещает выделить еще 1,4 триллиона долларов на 5G, искусственный интеллект и беспилотные автомобили. Они делают ставку на крупнейших поставщиков облачных вычислений и анализа данных — Alibaba Group Holding и Tencent Holdings.
Baidu, «китайский Google» с точностью распознавания лиц до 99%, стартапы iFlytek и Face оказались наиболее успешными. Рынок китайских микросхем только за один год – с 2018 по 2019 год – вырос на 50%: до $1,73 млрд.
В условиях торговой войны и ухудшения дипломатических отношений с США Китай активизировал интеграцию гражданских и военных проектов в сфере ИИ. Основная цель – не только технологическое, но и геополитическое превосходство над США.
Хотя Китаю удалось обогнать США в плане неограниченного доступа к большим и персональным данным, он все еще отстает в области технологических решений, исследований и оборудования. В то же время китайцы публикуют больше цитируемых статей об ИИ.
Но для развития проектов ИИ нам нужны не только ресурсы и государственная поддержка. Необходим неограниченный доступ к большим данным: именно они обеспечивают основу для исследований и разработок, а также обучения роботов, алгоритмов и нейронных сетей.
Большие данные и гражданские свободы: какова цена прогресса?
В США к большим данным также относятся серьезно и верят в их потенциал для экономического развития. Даже при Обаме правительство запустило шесть федеральных программ по работе с большими данными на общую сумму 200 миллионов долларов.
Однако с защитой больших и личных данных здесь не все так просто. Поворотным моментом стали события 11 сентября 2011 года. Считается, что именно тогда государство предоставило спецслужбам неограниченный доступ к персональным данным своих граждан.
В 2007 году был принят Закон о борьбе с терроризмом. И с этого же года в распоряжении ФБР и ЦРУ появился PRISM — один из самых продвинутых сервисов, собирающий персональные данные обо всех пользователях социальных сетей, а также сервисов Microsoft, Google, Apple, Yahoo и даже телефонных. записи. Именно об этой базе рассказал Эдвард Сноуден, ранее работавший в команде проекта.
Помимо разговоров и сообщений в чатах, электронной почте, программа собирает и хранит данные геолокации, историю браузера. Такие данные в США гораздо менее защищены, чем персональные данные. Все эти данные собираются и используются теми же IT-гигантами из Кремниевой долины.
При этом до сих пор не существует единого пакета законов и мер, регулирующих использование больших данных. Все основано на политике конфиденциальности каждой конкретной компании и формальных обязательствах по защите данных и анонимизации пользователей. Кроме того, в каждом штате есть свои правила и законы на этот счет.
Некоторые государства до сих пор пытаются защитить данные своих граждан, по крайней мере, от корпораций. В Калифорнии действует самый жесткий закон о защите данных в стране с 2020 года. Согласно ему, пользователи Интернета имеют право знать, какую информацию о них собирают компании, как и почему они ее используют. Любой пользователь может потребовать удалить его или запретить сбор. Годом ранее оно также запретило использование распознавания лиц в работе полиции и спецслужб.
Анонимизация данных — популярный инструмент, используемый американскими компаниями: когда данные обезличены, и по ним невозможно идентифицировать конкретного человека. Однако это открывает перед компаниями большие возможности по сбору, анализу и применению данных в коммерческих целях. При этом на них больше не распространяются требования конфиденциальности. Такие данные свободно продаются через специальные биржи и отдельных брокеров.
Проталкивая законы, защищающие от сбора и продажи данных на федеральном уровне, Америка может столкнуться с техническими проблемами, которые, по сути, затрагивают всех нас. Итак, вы можете отключить отслеживание местоположения на телефоне и в приложениях, но как насчет спутников, которые передают эти данные? Сейчас их на орбите около 800, и отключить их невозможно: так мы останемся без Интернета, связи и важных данных – в том числе изображений надвигающихся штормов и ураганов.
В Китае с 2017 года действует Закон о кибербезопасности. Он, с одной стороны, запрещает интернет-компаниям собирать и продавать информацию о пользователях с их согласия. В 2018 году даже выпустили спецификацию по защите персональных данных, которая считается одной из наиболее приближенных к европейскому GDPR. Однако спецификация является всего лишь сводом правил, а не законом, и не позволяет гражданам защищать свои права в суде.
С другой стороны, закон требует от мобильных операторов, интернет-провайдеров и стратегических предприятий хранить часть данных внутри страны и передавать их властям по запросу. Нечто подобное в нашей стране предписывает так называемый «Закон весны». При этом надзорные органы имеют доступ к любой личной информации: звонкам, письмам, чатам, истории браузера, геолокации.
Всего в Китае действует более 200 законов и постановлений, касающихся защиты личной информации. С 2019 года все популярные приложения для смартфонов проверяются и блокируются, если собирают данные пользователей в нарушение закона. Под охват попали и те сервисы, которые формируют ленту постов или показывают рекламу на основе предпочтений пользователей. Чтобы максимально ограничить доступ к информации в сети, в стране действует «Золотой щит», который фильтрует интернет-трафик в соответствии с законодательством.
С 2019 года Китай начал отказываться от иностранных компьютеров и программного обеспечения. С 2020 года китайские компании обязаны перейти на облачные вычисления, а также предоставлять подробные отчеты о влиянии ИТ-оборудования на национальную безопасность. Все это на фоне торговой войны с США, которые поставили под сомнение безопасность 5G-оборудования китайских поставщиков.
Такая политика вызывает неприятие в мировом сообществе. В ФБР заявили, что передача данных через китайские серверы небезопасна: к ним могут получить доступ местные спецслужбы. Вслед за ним выразили обеспокоенность и международные корпорации, в том числе Apple.
Всемирная правозащитная организация Human Rights Watch отмечает, что Китай создал «сеть тотального государственного электронного наблюдения и сложную систему интернет-цензуры». С ними согласны 25 государств-членов ООН.
Самый яркий пример – Синьцзян, где государство контролирует 13 миллионов уйгуров, мусульманского национального меньшинства. Используется распознавание лиц, отслеживание всех движений, разговоров, переписки и подавлений. Критике подвергается и система «социального кредита»: когда доступ к различным услугам и даже полетам за границу доступен только тем, кто имеет достаточный рейтинг благонадежности – с точки зрения госслужбы.
Есть и другие примеры: когда государства договариваются о единых правилах, которые должны максимально защищать личные свободы и конкуренцию. Но здесь, как говорится, есть нюансы.
Как европейский GDPR изменил способ сбора и хранения данных в мире
С 2018 года Европейский Союз принял GDPR – Общий регламент по защите данных. Он регулирует все, что связано со сбором, хранением и использованием данных пользователей в Интернете. Когда закон вступил в силу год назад, он считался самой жесткой в мире системой защиты конфиденциальности людей в Интернете.
Закон перечисляет шесть правовых оснований для сбора и обработки данных пользователей Интернета: например, личное согласие, юридические обязательства и жизненно важные интересы. Также существует восемь основных прав каждого пользователя интернет-сервисов, включая право быть информированным о сборе данных, исправлять или удалять данные о себе.
Компании обязаны собирать и хранить минимальный объем данных, необходимый им для предоставления услуг. Например, интернет-магазину не обязательно спрашивать вас о ваших политических взглядах, чтобы доставить товар.
Все персональные данные должны быть надежно защищены в соответствии с нормами законодательства для каждого вида деятельности. При этом под персональными данными здесь понимаются, среди прочего, информация о местонахождении, этнической принадлежности, религиозных убеждениях, файлы cookie браузера.
Еще одно сложное требование — переносимость данных с одного сервиса на другой: например, Facebook может перенести ваши фотографии в Google Photos. Не все компании могут себе позволить такую возможность.
Хотя GDPR был принят в Европе, он распространяется на все компании, работающие на территории ЕС. GDPR распространяется на всех, кто обрабатывает персональные данные граждан или резидентов ЕС или предлагает им товары или услуги.
Созданный для защиты ИТ-отрасли закон обернулся самыми неприятными последствиями. Только за первый год Европейская комиссия оштрафовала более 90 компаний на общую сумму более 56 миллионов евро. При этом максимальный штраф может достигать 20 миллионов евро.
Многие корпорации столкнулись с ограничениями, которые создали серьезные препятствия для их развития в Европе. Среди них был Facebook, а также British Airways и сеть отелей Marriott. Но в первую очередь закон ударил по малому и среднему бизнесу: им придется привести в соответствие с его нормами всю свою продукцию и внутренние процессы.
GDPR породил целую индустрию: юридические фирмы и консалтинговые фирмы, которые помогают привести программное обеспечение и онлайн-сервисы в соответствие с законом. Его аналоги стали появляться и в других регионах: Южной Корее, Японии, Африке, Латинской Америке, Австралии, Новой Зеландии и Канаде. Документ оказал большое влияние на законодательство США, нашей страны и Китая в этой сфере.
Может сложиться впечатление, что международная практика применения и защиты технологий в сфере больших данных и искусственного интеллекта состоит из каких-то крайностей: тотальной слежки или давления на ИТ-компании, неприкосновенности личной информации или полной беззащитности перед государством и корпорациями. Не совсем: есть и хорошие примеры.
ИИ и большие данные на службе Интерпола
Международная организация уголовной полиции (сокращенно Интерпол) является одной из самых влиятельных в мире. В него входят 192 страны. Одной из основных задач организации является составление баз данных, которые помогают правоохранительным органам всего мира предотвращать и расследовать преступления.
В распоряжении Интерпола 18 международных баз: по террористам, опасным преступникам, оружию, украденным произведениям искусства и документам. Эти данные собираются из миллионов различных источников. Например, глобальная цифровая библиотека Dial-Doc позволяет выявлять украденные документы, а система Edison – поддельные.
Усовершенствованная система распознавания лиц используется для отслеживания перемещений преступников и подозреваемых. Он интегрирован с базами данных, в которых хранятся фотографии и другие персональные данные из более чем 160 стран. Его дополняет специальное биометрическое приложение, которое сравнивает формы и пропорции лица, чтобы совпадение было максимально точным.
Система распознавания также обнаруживает и другие факторы, изменяющие лицо и затрудняющие его идентификацию: освещение, старение, макияж и грим, пластические операции, последствия алкоголизма и наркомании. Во избежание ошибок результаты поиска в системе проверяются вручную.
Система была введена в 2016 году, и сейчас Интерпол активно работает над ее усовершенствованием. Международный симпозиум по идентификации проводится раз в два года, а рабочая группа Face Expert дважды в год обменивается опытом между странами. Еще одна перспективная разработка — система распознавания голоса.
Международный исследовательский институт ООН (ЮНИКРИ) и Центр искусственного интеллекта и робототехники отвечают за новейшие технологии в сфере международной безопасности. В Сингапуре создан крупнейший международный инновационный центр Интерпола. Среди его разработок — полицейский робот, который помогает людям на улицах, а также технологии искусственного интеллекта и больших данных, помогающие прогнозировать и предотвращать преступления.
Как еще большие данные используются в госуслугах:
НАДРА (Пакистан) – база данных мультибиометрических данных граждан, которая используется для эффективной социальной поддержки, налогового и пограничного контроля.
Администрация социального обеспечения (SSA) в США использует большие данные для более точной обработки заявлений на пособие по инвалидности и борьбы с мошенниками.
Министерство образования США использует системы распознавания текста для обработки нормативных документов и отслеживания изменений в них.
FluView — американская система отслеживания и контроля эпидемий гриппа.
Фактически, большие данные и искусственный интеллект помогают нам во многих областях. Они построены на основе онлайн-сервисов, подобных тем, которые уведомляют вас о пробках или скоплении людей. С помощью больших данных и искусственного интеллекта в медицине проводят исследования, создают лекарства и протоколы лечения. Они помогают организовать городскую среду и транспорт так, чтобы всем было комфортно. В национальном масштабе они помогают развивать экономику, социальные проекты и технические инновации.
Именно поэтому так важен вопрос о том, как собираются и применяются большие данные, а также алгоритмы ИИ, которые с ними работают. При этом важнейшие международные документы, регулирующие эту сферу, были приняты совсем недавно – в 2018–19 годах. До сих пор не существует однозначного решения основной дилеммы, связанной с использованием больших данных для обеспечения безопасности. Когда с одной стороны прозрачность всех судебных решений и следственных действий, а с другой стороны защита персональных данных и любой информации, которая в случае опубликования может нанести вред человеку. Поэтому каждое государство (или союз государств) решает для себя этот вопрос по-своему. И этот выбор зачастую определяет всю политику и экономику на ближайшие десятилетия.
Подпишитесь на Telegram-канал «Тренды» и будьте в курсе актуальных трендов и прогнозов о будущем технологий, экономики, образования и инноваций.