Почему люди не доверяют искусственному интеллекту?

Машинный разум полезен, если выполняет работу, которую человек выполнить не может. Например, когда управляет космическим зондом на далёкой планете. А если он выполняет за человека ту работу, которую человек способен выполнить сам, он становится опасен. Почему? Сейчас разберёмся.

"Это же удобно!"

Московские школьники участвуют в дистанционной олимпиаде, которая называется «Жизнь в умном городе». В ней рассказывается об «умных домах», которые собираются строить в наших городах. В этих «умных домах», например, будут установлены «умные счётчики» расхода воды и электричества, которые будут сами каждый месяц передавать информацию в управляющие компании.

Не надо будет, кряхтя, залезать на табуретку, чтобы добраться до электросчётчика, или вставать на четвереньки, чтобы снять показания счётчика воды, расположенного обычно под раковиной или за унитазом. Не надо напрягать глаза, переписывать цифры на бумажку, потом вводить их на специальной странице в интернете… Удобно?

Конечно, удобно! А значит – опасно. Почему?

Запомним правило: «Всё, что может сломаться, рано или поздно сломается». И тогда получится так: вы израсходовали восемь кубометров воды, а счёт вам выставили за восемьдесят. Но это ещё не самое страшное, с этим рано или поздно разберутся (хотя разбирательство будет стоить вашим родителям немалых нервов). Может быть и хуже!..

Когда взрослые друг друга обманывают

Наверняка вашим родителям приходилось попадать в ситуации, когда их обманывали – причём не какие-нибудь жулики, а «солидные фирмы». Например, берёшь в магазине товар с ценником «скидка», а на кассе оказывается, что никакой скидки нет. Или в интернете предлагают подписаться на страницу с фильмами и сериалами «за рубль в месяц», а в конце месяца списывают с карты сразу триста рублей…

К сожалению, управляющие компании, которым мы перечисляем плату за воду или за электричество, тоже иногда занимаются подобным обманом. Например, в конце года ваша семья получает дополнительный счёт на оплату задолженности. Но вы же платили вовремя, откуда задолженность?

А вот откуда. Некоторые люди подолгу задерживают оплату, и в конце года, когда управляющей компании надо подводить бухгалтерский баланс, у неё не хватает денег. Что делать? Разослать угрожающие письма должникам? А они как не платили, так и не будут платить. И тогда чья-то «умная голова» решает: «А давайте разделим этот долг на всех! Кто-то станет разбираться, а кому-то будет лень, он плечами пожмёт и заплатит! Чтобы не связываться».

И вот представьте: «умный дом» (а на самом деле – управляющая компания) выставляет вам такой жульнический счёт, а банк списывает деньги с вашего банковского счёта по «умной» системе автоплатежей.

Пока система автоплатежей добровольная, её можно не подключать, но кто знает, до чего дойдут люди завтра? Ведь это тоже «удобно» – не помнить, кому, за что и сколько ты должен платить. Взять и перепоручить всё это «умному банку»!

Что такое бигдата?

Бигдатой (от английского «big data» – «большие данные») называют компьютерную базу информации, в которой может храниться неопределённо большое количество самых разнообразных сведений о людях. Что вы едите, что пьёте, какую одежду носите, в какие игры играете, какие смотрите фильмы, какие сайты посещаете в интернете, сколько зарабатываете и сколько тратите, как выглядите, где бываете, чем болеете – всё знает бигдата.

Как составляется эта база данных?

Вы купили мобильный телефон. Чтобы он начал работать, вам необходимо зарегистрироваться на специальном сайте (телефон вам подскажет, на каком). Зарегистрировались? Ага, теперь этот сайт знает, как вас зовут, знает ваш номер телефона, знает ваш IP-адрес, с которого вы выходите в интернет, а заодно и адрес, по которому вы живёте.

Установили юзерпик со своим лицом? Теперь этот сайт знает, как вы выглядите. А если у вас на юзерпике животное или робот? Ничего, вам обязательно захочется воспользоваться забавным приложением, которое показывает, как вы будете выглядеть в старости или на какую кинозвезду вы похожи. Для этого вам нужно будет «всего лишь» закачать ваше фото. Вот вы и попались.

Далее: вы скачиваете на телефон разные приложения – а хитрый сайт знает, какие. А значит, знает, во что вы играете или что покупаете.

Зарегистрировались на сайте «Госуслуги»? Бигдата знает, к каким врачам вы записываетесь, какие заказываете документы, каким владее-те имуществом, за которое платите налоги, и так далее.

Оформили загранпаспорт для поездки за границу? Теперь у бигдаты есть отпечатки ваших пальцев!

Для чего нужна бигдата

Ну, во-первых, чтобы ловить преступников. Уличная камера слежения зафиксировала лицо преступника – и всё, полиция уже знает его имя, номер телефона, адрес и даже маршруты передвижения (ведь у нашего преступника в телефоне есть навигатор). Удобно? Очень!

Главное, чтобы этот преступник случайно не оказался вашим двойником…

А если он был в маске? Специально, пока готовился к преступлению, заказал маску из латекса с вашим лицом! Вы же выкладываете свои фото «Вконтакте»?

Во-вторых, бигдата нужна, чтобы предлагать людям рекламу разных услуг и товаров. Вернее, чтобы производители этих услуг и товаров, заказывая рекламу, были уверены, что эта реклама дойдёт именно до тех, кому их услуги и товары нужны.

Тогда будет так: вы посетили в поликлинике окулиста. Тут же на вашем любимом сайте появляется рекламный баннер салона оптики – «купите очки!». Невинная подсказка. А что? Даже удобно!..

А хотите ещё «удобнее»? Пожалуйста!

Представьте: вот вы выросли и собираетесь принять участие в выборах, допустим, мэра. Или президента. Бигдата знает, что Петя Коржиков обожает игры-стрелялки и часто посещает сайты про всякое там оружие. И пожалуйста: куда бы Петя в интернете ни сунулся, всюду видит рекламу кандидата Иван Иваныча Крокодилова в окружении «чётких парней» с оружием. «Иван Иваныч Крокодилов за свободное ношение оружия! Он настоящий мужчина!»

«Эге, – думает Петя. – Похоже, это мой кандидат».

А про Люду Синичкину известно совсем другое – она обожает кукол и «семейные» фильмы. Соответственно, Люда получает другую рекламу. На ней Иван Иваныч Крокодилов нежно склоняется над детской коляской… Теперь и Люда знает, за кого ей голосовать.

И не надо ни Люде, ни Пете рыться в интернете, выясняя, чем этот Иван Иваныч занимался раньше, какими добрыми или недобрыми делами отметился и какова его предвыборная программа (длинный и прескучный документ, между прочим). Удобно? Ещё как удобно! «Всем сердцем за Иван Иваныча!»

А ведь этот Иван Иваныч ещё в должность не вступил – а уже обманывает. Что же дальше-то будет? М-м?..

Лучик: Выходит, с помощью бигдаты можно обманывать?

Крит Критыч: Запросто! Ведь обмануть человека несложно. «Главное – знать, где у него кнопка»! А именно это бигдата и выясняет…

Лучик: Зачем же её вообще придумали, гадость такую?

Не зачем, а почему!

Раньше люди жили в деревнях или в маленьких городках по две-три тысячи жителей. А те, кто жил в больших городах, редко выбирались за границы своего района. Поэтому жители хорошо знали друг друга.

Обманывать в таких маленьких городках было невыгодно. Если лавочник обсчитает или обвесит покупателя, тот к нему больше не придёт, да ещё соседям расскажет.

Но теперь всё по-другому. В больших городах живут миллионы людей. И магазины у нас огромные – не магазины, а торговые сети. Кто владелец? Непонятно. Обманули в одном магазине десять человек – ничего! Завтра всё равно ещё тысяча придёт…

Запоминаем правило: малый бизнес ориентируется на постоянного клиента – то есть на человека, который продавца знает и ему доверяет. А крупный бизнес ориентируется на «поток»! То есть на большие массы людей, которые сегодня купят у тебя, а завтра где-нибудь ещё, а на их место придут другие.

Но и крупный бизнес хочет завлечь «поток» побольше, погуще. Для этого нужно знать, каковы предпочтения покупателей, что им нравится, что не нравится, чем их привлечь.

Вот тут-то и приходит на помощь бигдата.

Иван Иванычу Крокодилову, чтобы его выбрали, тоже нужно знать своих выборщиков. Что им пообещать?

Есть, конечно, социологические опросы, но это штука ненадёжная. Например, спрашиваем: кто ваш любимый композитор, писатель? Людям хочется выглядеть получше, и они отвечают: Чайковский, Пушкин. (А на самом деле – «Литтл Биг» и Макс Максимов.) В отличие от социологических опросов, данные, считанные с банковской карточки, не врут. Что человеку на самом деле нравится, то он и покупает.

Лучик: Ну, что продавцам и политикам выгодно, это я понял. А простым людям зачем бигдата?

Крит Критыч: Ты забыл? Удобство, комфорт! Не надо думать, напрягаться, искать – искусственный интеллект сам всё устроит!

Лучик: Это как в мультике – там, где двое из ларца: «Вы что, и есть за меня будете?»

Крит Критыч: Ага!..

"Цифровое рабство"

Помогая человеку делать то, с чем человек и сам мог бы справиться, искусственный интеллект не делает людей сильнее. Он делает их слабее!

Ну, например. Тебе не продали билет в «Лунапарк», потому что у тебя не закрыта двойка по контрольной... Правильно ли это?

Двоечником быть нехорошо. Этому учат родители, этому учат в школе. Но родители и учителя обязательно постараются помочь тебе исправить положение. А бигдата этим заниматься не будет. Ей это не нужно. Твоя личность для неё значения не имеет. Напоминаем: современные компании не борются за каждого отдельного клиента – они борются за поток. Не вписался ты в наш «Лунапарк» – ну и не надо, желающих ещё во-о-он сколько...

Получается, что и двойку исправлять незачем – надо просто усвоить, что «Лунапарк» – не для тебя. Это для «хороших» детей, а ты – второй сорт, неудачник…

Умницами и отличниками тоже можно манипулировать: «Сделай то, если хочешь повысить рейтинг! Сделай это, если хочешь попасть в особую программу, участники которой на льготных условиях поступают в вуз!»

В одном городе (не будем показывать пальцем) детей вынудили ответить на «сорок вопросов о семье»: «Давно ли у вас был ремонт? Сколько продуктов у вас в холодильнике? Часто ли родители разговаривают с тобой о твоих проблемах?»

Лучик: Этак можно спросить «Ругают ли твои родители президента?»…

Крит Критыч: Да что угодно можно спросить! А потом, в зависимости от ответов, не принять этих родителей на работу или, наоборот, уволить с работы…

Подведём итог

Сам по себе искусственный интеллект не плох и не хорош. Это инструмент, вроде ножа. Всё зависит от того, в чьих он руках. Ножом можно приготовить салат или бутерброд, можно вырезать свистульку для ребёнка. А можно с тем же самым ножом в тёмном переулке кошельки отнимать!

Люди не доверяют искусственному интеллекту, когда он вмешивается в их частную жизнь. Если кто-то знает о тебе всё (или много), а ты о нём – ничего (или мало), это значит, что этот кто-то тобой управляет. А ты беспомощен!

Люди не любят чувствовать себя беспомощными. Когда человек беспомощен перед компьютером, это называется «цифровым рабством».

Лучик: Почему же люди не протестуют? Почему не требуют, чтобы к ним искусственный интеллект не применяли?

Во-первых, среди нас всегда немало людей, для которых комфорт дороже свободы. А во-вторых, людей просто запугивают. Терактами, эпидемиями… Кто не хочет обменять свободу на комфорт, тот обменяет её на безопасность. Но это совсем уже взрослый разговор, Лучик.

Лучик: Неприличный?

Крит Критыч: Нет, долгий и непростой. Не думал, что когда-нибудь скажу это, но вот, всё-таки говорю: «Вырастешь – поймёшь».

Это была статья из июньского номера детского журнала "Лучик". В нём мы рассказывали, что такое искусственный интеллект, как он возник, развивался, для чего нужен и почему может быть опасен. Познакомиться с журналом "Лучик" можно по этой ссылке.