2000 слов. Гуманоиды, они такие предсказуемые, или Как я хулиганил в Сколково
Большую часть подростковой жизни я прожил в военном общежитии — знаете, такие длинные коридоры, на этаже по 15 блоков, одна кухня на все семьи, два или три общих складских помещения, широкий коридор с зоной для “чаепития” рядом с кухней. Дружили целыми этажами и ходили друг к другу целыми этажами. Я жил на 12-м этаже, когда женился — переехали на 13-й, а мой друг Артур Валерьевич жил на 4-м.
Когда мы с ним были детьми, у подростков-мальчишек нашего дома было любимое место для “сходок”. Артур “командировал” в своё личное распоряжение одно из складских помещений этажа, которое не использовалось — по договорённости, конечно. Там у него были стол, стул, кровать, компьютер и журнальный столик. Рядом с журнальным столиком стояло шикарное кресло, которое он либо сам собрал, либо кто-то притащил ему — этакий “древний” аналог икеевского “Поэнга” из металла и гнутых труб. Кресло отлично качалось, а в качестве мягкого основания использовался целый матрас. В общем, не кресло, а произведение искусства.
На журнальном столике лежала стопка журналов. В то время популярны были “Хакер”, “Страна игр”, “Chip”, “Игромания” и ещё какие-то, помню только те, что читал сам. Стопка была достаточно большая, а в самом низу, между вторым и третьим журналами, лежал “Penthouse”. Артурчик любил хулиганить и приклеил этот журнал к тому, что лежал поверх “мурзилки для подростков”. Каждый раз, когда кто-то хотел вынуть “Penthouse” из стопки, не снимая журналы сверху, вся стопка опрокидывалась.
Как вы думаете, за каким журналом у всех, кто садился в суперкомфортное кресло “случайно” поставленное рядом со столиком, тянулась рука в первую очередь? Конечно, за “Penthouse”. Люди от природы ленивы, и снимать целую пирамиду из журналов сверху — “не барское это дело”. Поэтому приходящие пытались вытянуть порножурнал, придерживая пирамиду рукой, но, как ожидалось, у них это не получалось, и стопка опрокидывалась. Артур при этом повторял одну и ту же фразу: “Гуманоиды, они такие предсказуемые”.
На моей памяти не было ни одного человека, который бы первым делом не потянулся за журнал с “интересными” картинками — независимо от пола.
Эта длинная предыстория нужна, чтобы рассказать про один любопытный эксперимент, который мне посчастливилось спроектировать и провести, результаты которого я предугадал, потому что:
Гуманоиды, они такие предсказуемые.
Если компьютеры с каждым годом умнеют, значит ли это, что люди глупеют?
Так я назвал интерактивную лекцию, которую меня попросили прочитать перед резидентами технопарка “Сколково”. После лекции состоялась премьера фильма “Реплика”.
Цель, которую я себе поставил, заключалась в желании столкнуть слушателей с противоречием: с ИИ не всё так однозначно. У человека нет окончательного ответа, хорошо ли развитие и проникновение ИИ во все области деятельности или нет. Для этого я поставил три задачи:
- Представить общий взгляд на ИИ как на феномен.
- Подчеркнуть, как легкодоступность информации лишает человека возможности понять, что он действительно усвоил1.
- Продемонстрировать несостоятельность убеждения, что развитие ИИ — это однозначно хорошо.
Начал с представления самого себя. Чтобы установить контакт со слушателями, пока рассказывал о себе, попросил их назвать свой возраст, род занятий и один любопытный факт о себе. На лекцию пришли в основном работающие люди в возрасте от 35 до 60 лет, то есть достаточно возрастная аудитория:
После того как мы установили контакт, я задал первый вопрос: считают ли они ИИ благом или злом? Это был “срез” базовой установки: 88,4% — благо, остальные — зло.
После этого я начал рассказывать о том, чем занимался весь последний месяц в школе. Я работал со школьниками и студентами, проводил открытые занятия, на которых интересовался, к кому они обратятся, если нужно узнать что-то сложное. Рассказал резидентам “Сколково” ответы детей, что к родителям обращаются меньше 20%, к учителям — чуть больше 30%, а к YouTube и TikTok — более 86% (опрос был множественного выбора, поэтому такое распределение процентов). Я пытался продемонстрировать слушателям лекции, насколько беспочвенна убеждённость детей, что “в интернете найдётся всё”. Для выполнения этой задачи провёл эксперимент, который Максим описывает во фрагменте третьей книги1.
Сможете посадить самолёт и не умереть?
Суть эксперимента такова: я показал участникам ролик без звука, на котором инструктор объясняет, как осуществить посадку самолёта малой авиации Cessna. Они смотрели его в полной тишине, на большом экране, без моих комментариев, в течение одной минуты. Когда ролик закончился, я попросил ответить на вопрос:
NOTE
Насколько вы уверены (от 1 — “нет” до 10 — “вполне”), что сможете посадить самолёт после просмотра видеоинструкции?
Я дал ссылку на гугл-форму с просьбой заполнить её. Мне удалось воспроизвести один из этапов оригинального эксперимента2, и распределение ответов довольно точно повторило результаты 2022 года.
После этого я начал рассказывать о “предвзятости автоматизации” — о том, как пустая информация, которую ИИ сегодня генерирует в огромных масштабах, может создать иллюзию понимания. Это, в свою очередь, мешает осознать, что мы не знаем то, что не знаем (это не опечатка: незнание пределов нашего незнания — основной драйвер открытий). Как мне кажется, это приведёт к тяжёлым последствиям. Я упомянул 30-летний эксперимент Ясюковой3 и попросил ещё раз ответить на вопрос: ИИ — благо или зло?
Результат был ожидаемым: в глазах аудитории я заметил лёгкое разочарование4. Думаю, они надеялись, что ИИ — это чудо-машина, которая поможет решить их проблемы, предоставит инструкцию по изготовлению “серебряной пули” и рецепт “красной пилюли”, но оказалось, что всё не так просто. На этом этапе я решил “переключить передачу” и рассказал про Ли Седола,
Про создание AlphaGo и о том, как ИИ подтолкнул человека к тому, чтобы увидеть решение, которое раньше оставалось за пределами его понимания — про “цифровую интуицию”. Описал, как ИИ может помогать врачам диагностировать ранние стадии болезни Альцгеймера и Паркинсона. Рассказал, как выпускник медицинского университета, вооружённый камерой с ИИ-ассистентом, с 95% вероятностью диагностирует злокачественную опухоль, когда она ещё операбельна (такой процент выдаёт только врач с 30-летним опытом). Как ИИ всё больше проникает в жизнь и облегчает задачи учителям, ученикам, учёным, исследователям, менеджерам, маркетологам, домохозяйкам и инженерам. И снова попросил пройти опрос: благо или зло?
Лекцию я закончил двумя историями. Одна — об Айзеке Азимове и его попытках помочь читателям преодолеть “комплекс Франкенштейна”5, другая — о Джозефе Вайценбауме и эффекте Элизы6, с которым учёный из MIT боролся до конца своей жизни.
Так что, как думаете? Благо или зло?
BIO
theBrain mapping
ID: 202411140611 Source:: Friend:: Child:: Next::
Keywords:
Related:
Reference:
Footnotes
-
Максим недавно опубликовал фрагмент своей третьей книги, рекоменду ознакомиться. Прочтение поможет лучше понять суть одного из лекционных экспериментов. ↩ ↩2
-
Jordan K. [и др.]. Trivially informative semantic context inflates people’s confidence they can perform a highly complex skill // Royal Society Open Science. 2022. (9). ↩
-
- Ясюкова Л. Изменение структуры интеллекта подростков с 1990 по 2020 годы //Психологическая газета [Электронный ресурс]. URL: https://psy.su/feed/8560/ (дата обращения: 21.08.2024).
-
Респонс рейт от вопроса к вопросу колебался в пределах 5%, 40-38-40-43 ↩
-
- McCauley L. Countering the Frankenstein Complex.
-
- Weizenbaum J. Computer Power and Human Reason: From Judgment to Calculation / J. Weizenbaum, First Edition-е изд., San Francisco: W H Freeman & Co, 1976. 300 c.