Select for category

Труд

Каменская городская общественно-политическая газета Ростовской области

В Ростовской области...

Далее

В областной бюджет 2022–2023 годов заложены средства на создание 10 модульных домов культуры. Это сделано по поручению донского губернатора Василия Голубева Подразумевается не замена модульными…

Об изменении законодательства...

Далее

В соответствии со ст. 18 Закона РФ «О ветеринарии» ответственность за здоровье, содержание и использование животных несут их владельцы, а за выпуск безопасных в ветеринарно-санитарном…

Бытовой газ: что...

Далее

В зимний период население активно использует в быту газовое оборудование, нарушая при этом элементарные правила пожарной безопасности, что зачастую приводит к чрезвычайным происшествиям. Отдел надзорной…

Памяти Павленко Александра...

Далее

23 февраля, не дожив несколько дней до своего 73-летия, после тяжелой болезни ушел из жизни ПАВЛЕНКО АЛЕКСАНДР ВАЛЕНТИНОВИЧ. Александр Валентинович родился в Каменске 29 февраля…

Вспомним всех поименно…

Далее

День 15 февраля в календаре не обозначен особым цветом, не является выходным, но для многих наших сограждан эта дата дороже любых праздников. В далеком Афганистане…

Главная / Человек и общество / «Грядёт мировая война роботов»

«Грядёт мировая война роботов»

Почему искусственный интеллект опаснее бомбы?

Какое место России в мировой гонке за техническое превосходство? Как техника шпионит за нами и может ли она взбунтоваться?

Об этом рассказывает специалист по IT-безопасности, член Совета при Президенте РФ по развитию гражданского общества и правам человека Игорь АШМАНОВ.

БОЯТЬСЯ НАДО МАШИН ИЛИ ЛЮДЕЙ?

— Игорь Станиславович, сегодня что ни день, то новости про искусственный интеллект (ИИ): он, мол, способен заменить депутатов, президент поручил внедрять его в российских компаниях и т. д. Что такое ИИ?

— Искусственный интеллект – это способ имитировать умственные функции человека с помощью математических методов. Распознавание текста или речи, распознавание лиц, управление транспортом – всё это сейчас уже может сделать машина.

Этому направлению около 60 лет. Окончив мехмат МГУ, я в 1983 г. пришёл работать в отдел искусственного интеллекта Вычислительного центра Академии наук. Тогда в СССР был совет по ИИ, в Академии наук занимались и распознаванием речи, и анализом текстов, и управлением беспилотниками. Если вы помните, наш космический челнок «Буран» в 1988-м летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и 1,5 м полосы, им управлял ИИ.

– Много говорят о том, что, развиваясь, ИИ оставит без работы миллионы людей. Какие профессии обречены?

– Это замещение произойдёт не так быстро. Водителей, думаю, в итоге не станет – по крайней мере в таком количестве, что сейчас. Будут ездить беспилотные такси и грузовики. Но в целом все рабочие специальности останутся. ИИ угрожает в первую очередь «белым воротничкам», т. е. среднему классу. Зачем выпускать дорогое устройство, которое делает простую работу, – проще нанять человека. А экономия на бизнес-процессах, которые выполняет вроде бы неглупый и хорошо оплачиваемый сотрудник, может быть существенной. Но вот престиж программистов будет только расти.

– Возможен ли сценарий из фантастических фильмов: ИИ взбунтуется против людей?

– Нет. Чтобы он взбунтовался, ИИ должен обрести сознание. А мы пока не знаем, что такое сознание даже в отношении человека. Бояться надо не машин, а злых и умных людей. Никто не будет создавать машину, которая себя осознает, – создадут машину, которая исполняет злой алгоритм. Убивает, выслеживает, шпионит, манипулирует, втюхивает – вот этого надо бояться.

И НАЧНЁТСЯ АНТИУТОПИЯ

– Вы прогнозируете и военные столкновения, в которых страны могут уничтожить друг друга с помощью ИИ…

– Да, ИИ становится оружием номер один в военной области, он выходит на равные позиции с атомной энергией и потенциально даже важнее неё. Применять роботов в быту, конечно, интересно – они делают жизнь комфортнее. Но самое важное в ИИ – это военное применение. Первое, что сделало человечество, открыв ядерную энергию, – не мирную атомную электростанцию, а бомбу, причём опробовали её на мирном населении буквально через месяц после создания первого прототипа, превращение в оружие произошло мгновенно. То же будет и с ИИ.

Сейчас мир на планете обеспечивает ядерное сдерживание. Но у самых агрессивных государств есть идея, что это ограничение можно снять за счёт сверхбыстрых автономных систем, управляемых ИИ.

Если можно победить противника, вообще не используя солдат и ядерное оружие, заслав рой умных крылатых ракет или армию дронов, пробив все его защиты, сжигая все его ядерные шахты, – то можно переломить и ядерное сдерживание. В дальнейшем начнётся антиутопия: появятся боевые системы на основе ИИ с лицензией на убийство. Лидерами здесь видят себя США и Китай.

– Какова позиция России в этой гонке?

– Неплохая. У нас есть все основания участвовать в борьбе за лидерство в области ИИ – как военного, так и мирного. Долгое время, в советский период, мы были безоговорочными лидерами в области информатики и ИИ. У нас очень хорошие программисты и математики. Большое количество программ ИИ и поисковиков, соцсетей в Штатах «пишут» русские программисты, которые уехали из России. И если индусы считаются дешёвой посредственной рабочей силой, то русские ребята – самыми крутыми в ИТ!

ЗА ВАМИ СЛЕДИТ ТЕЛЕВИЗОР

– Вернёмся от проблем глобального уровня к бытовому ИИ. Вы говорили, что данные о нас собирают и передают друг другу все кому не лень. Когда я захожу на сайт и смотрю новый телевизор, а потом на меня сыпется реклама телевизоров, – это оно?

– Да, сайт продаёт вас как потенциально перспективного клиента. Более того, системы анализируют сотни ваших параметров: в какие магазины вы ходите? Такси по какому тарифу вызываете? На основании этого делаются выводы, что вам можно продать. Есть данные о том, что программы так же постоянно прослушивают вас: если мы поговорим о покупке нового телевизора, то нам обоим будет выдаваться реклама телевизоров последних моделей. Совпадение? Вряд ли. Активнее всего за пользователями следят умные телевизоры с возможностью управления жестами – в них есть камера и микрофон. Никогда не подключайте их к интернету! А если всё же сделали это, заклейте камеру на ТВ изолентой. На втором месте по слежке – умные голосовые колонки: они прослушивают ваш дом 24/7. В США было несколько скандалов, связанных с Амазоном и другими производителями. И ещё – фитнес-браслеты. Это самое большое зло! Есть исторический анекдот: незадолго до смерти Брежнев ездил на переговоры в ФРГ. Там вместо унитаза ему подсунули лабораторию, которая собрала все биологические выделения, чтобы сделать анализ – чем он болен, сколько ему осталось жить. Так вот, все эти биологические данные наши чиновники отдают даром: фитнес-браслеты – это дешёвая массовая разведывательная операция. Браслет снимает сопротивление кожи, пульс, взмахи рукой, когда вы идёте. Представим, что кто-то поехал к любовнице и хочет это скрыть. Фитнес-браслет снимет координаты и передаст на сервер, который распознает характерные движения при сексе, – и вот у авторов браслета компромат: человек имеет любовницу и дважды в неделю ездит к ней в Мытищи. В браслетах ещё много таких вещей, которые мы сами про себя рассказываем неизвестно кому.

– Как эти данные можно использовать во вред человеку? Который, предположим, и не изменяет никому…

– К примеру, собрав все ваши запросы, перемещения, посты в соцсетях, можно вычислить: больны вы или нет, а если да – чем именно, беременны или нет. Вот гипотетическая ситуация: некая девушка последние 2 дня искала в поисковиках товары для беременных, а также выясняла, сколько стоят роды в разных роддомах. Затем она обновила резюме на сайтах поиска работы. Кадровые службы смотрят его, и все – отклоняют. Так как система передачи и продажи данных по цепочке уже привела к пометке в резюме, что она беременна. Это вообще-то уголовное преступление, ст. 145 УК РФ, но пока оно совершенно недоказуемо – технический аудит потоков данных массовых интернет-сервисов ещё у нас не легализован.

– И всё же – как защитить свои данные?

– Это не технический вопрос, а социальный. Нужно принять мысль: всё, что вы сделали в сети (в электронной почте, мессенджере, соцсетях), публично и навсегда. Вот у вас есть фотографии на смартфоне – считайте, что они доступны всем. Потому если вы не хотите травли, шантажа или разглашения информации – не храните и не пересылайте ничего стыдного. Это как в истории с футболистом «Зенита» Дзюбой – он, снимая злополучное видео, не думал о возможной утечке.

Попадая в интернет, любая информация остаётся там навсегда, сеть – безжалостная машина времени. Но знает она о вас только то, что вы ей сами сообщаете.

СОБРАВ ВАШИ ЗАПРОСЫ, ПЕРЕМЕЩЕНИЯ, ПОСТЫ В СОЦСЕТЯХ, МОЖНО ВЫЧИСЛИТЬ: БОЛЬНЫ ВЫ ИЛИ НЕТ, А ЕСЛИ ДА — ЧЕМ ИМЕННО, БЕРЕМЕННЫ ИЛИ НЕТ.

***
фото:

Размер шрифта

Пунктов

Интервал

Пунктов

Кернинг

Стиль шрифта

Изображения

Цвета сайта