My answer to Max’s thesis that AI is a gateway to manipulation
Максим пригласил принять участие в баттле, где мы с подписчиками его клуба попытаемся разобраться в вопросе: погубит человека ИИ или наоборот поможет, а если поможет, то в какой степени.
Тезис Максима
Если обучающей выборкой для ИИ преимущественно являлись общедоступные тексты и знания, то существует вероятность, что пользователь воспримет ответ на заданный вопрос истинным просто потому, что он покажется ему знакомым, так как те или иные фрагменты ответа он уже где-то раньше в информационном поле встречал.
А раз так, то ответ не вызовет дополнительных вопросов.
При определенных условиях ИИ может способствовать распространению стереотипных заблуждений (типа: давайте экономить время, чтобы больше успевать) или, например, fake news.
По крайней мере, если у пользователя нет навыка валидировать ответ от ИИ.
На который я предлагаю следующий контр тезис.
Эволюция или инволюция?
ИИ — это неизбежная эволюция, и началась она не сегодня и даже не тогда, когда Тьюринг собрал сначала «Бомбе», а потом и «Энигму», а с Лейбница и его желания создать универсальный язык, с помощью которого человек даст команды машине, а машина их исполнит.
ИИ в 2025 году — это как калькуляторы в 1986. Сделали ли калькуляторы нас глупее? Определённо: сейчас мы не можем без них выполнять сложные вычисления в уме, просто потому что не приучены. Произошла утрата функции ментальной арифметики. Однако утрата одного открыла возможность другому — выполнять гораздо более сложные расчёты быстрее и с меньшим количеством ошибок. То же самое можно сказать и про компьютер. Сделал ли нас Google глупее? Определённо, но вместе с этим интернет, поисковики и алгоритмы предоставляют возможность распространять информацию, экономя тысячи часов на походы в библиотеки и подписки на бумажные издания научной литературы.
А если оглянуться на пару тысяч лет назад, то нельзя не вспомнить Сократа, который считал, что письменность приведёт к утрате человеком способности думать, потому что мозгом для размышлений он будет пользоваться меньше, чем если бы думал в себе, а не на бумаге.
Смею предположить, что технологию не развернуть вспять, а следовательно, остаётся лишь наблюдать, что с ней происходит, и становиться активным участником изменений — желательно позитивных.
Умные будут ещё умнее, а глупые — ещё глупее
Действительно страшно то, что умных людей значительно меньше, чем глупых. А когда глупый благодаря ИИ уверует в свою правоту — это ещё страшнее. Мало того, что он будет использовать следующее, наиболее вероятное слово, так он начнёт это делать с уверенностью в своей правоте. Это действительно открывает простор для манипуляции общественным мнением. Но умный человек благодаря ИИ способен выполнять сложную работу быстрее и качественнее. И чем быстрее умный научится использовать технологию себе на пользу, тем лучше.
Уже сейчас ИИ помогает:
- быстрее и точнее находить шумы в сердце,
- диагностировать злокачественные опухоли на раннем (ещё операбельном) этапе,
- вычитывать огромные тексты,
- задавать неожиданные вопросы и «находить» новый угол зрения на давно известную проблему.
ИИ в правильных руках – та еще вундервафля
В качестве иллюстрации того, что человек вместе с ИИ может значительно больше, чем каждый по отдельности, можно привести работу AlphaFold. За DeepMind вообще интересно наблюдать, особенно за Демисом Хассабисом. Благодаря AlphaFold, алгоритм способен предсказать трехмерную структуру белка за несколько часов, в то время как ранее это занимало годы дорогостоящих лабораторных исследований. Сегодня ученые используют AlphaFold для проектирования новых белков с определенными свойствами и поиска новых медикаментов.
Другой иллюстрацией синергии человека и машины могут служить автономные лаборатории, которые способны проводить гораздо больше экспериментов для поиска новых материалов и катализаторов гораздо быстрее, чем человек. Тут как раз действует принцип предсказания “следующего” слова и последующий выбор перспективных направлений.
Вот еще один пример из химии: огромный массив данных позволяет с меньшим количеством проб и ошибок предсказывать свойства элементов, ускорять химические реакции и т.д.
Ну и чтобы закрыть “научный” блок, вот пример полного флеш-рояля: робот, ИИ, провернувший за 17 дней столько, сколько команде ученых в принципе невозможно.
В качестве предварительного итога, ИИ в контексте прикладной науки — не просто “зеркальце, скажи”, а своего рода эволюция научного метода. ИИ способен не только проверять гипотезы, но и перепроверять их новыми (созданными им) методами анализа, ранее недоступными человеку, потому что человек просто не додумался.
Бытовое использование вундервафли (LLM)
“Душные” выпускники наших учебных программ совершенно справедливо “заметили”, что мои контраргументы — это частные случаи использования ИИ, а Максим в своем тезисе упомянул исключительно LLM. Согласен, если честно, но я не разделяю модель, настроенную на выполнение конкретной задачи, и модель общего пользования. Принципы, на которых они обучены, идентичны: большие данные и машинное обучение. Однако тезис о неравномерности веса моего ответа принимается, поэтому дополню максимально бытовым и максимально прикладным способом использования ИИ в исследовательской деятельности.
Мой англоязычный коллега, Энди Степлтон, создал и развивает канал, посвященный использованию ИИ (LLM) в исследовательской деятельности. Практически все из предложенного им я попробовал — работает и действительно помогает.
Это, конечно, менее научный аргумент, но все-таки аргумент.
Еще одно дополнение, Энди, когда мы с ним общались отметил, что Стенфорд подталкивает своих студентов использовать LLM в своих исследованиях. Одно из условий – это указывать промпты, которые были использованы для генерации фрагментов диссертаций, курсовых и выпускных работ. Я не проверял, но спросил еще у пары “знающих” знакомых, они подтвердили. Этот аргумент не валидирован, но мне кажется важным его упомянуть.
Панчлайн
ИИ — грубый и неточный прибор, продвинутый калькулятор, если угодно. Станет ли он благом или злом — зависит от того, как его «настроить» и использовать. Но ещё важнее — научить использовать его так, чтобы умный стал умнее, а глупый — хотя бы немного умнее.
Как и любая «технология-предвестник» смены эпох (индустриальной, постиндустриальной, информационной), ИИ неизбежно встретит сопротивление и приведёт к утрате человеком каких-то интеллектуальных функций.
Но исторически все технологии схожего масштаба (письменность, паровой двигатель, телефон, компьютер, интернет) в итоге приводили к значимым положительным изменениям в профессиональной деятельности — пусть и не без негативных последствий. Примеры из науки дают повод осторожного оптимизма.
BIO
🧠 theBrain mapping
ID: 202509251319 Source:: 2000 AI Trends of 23-34 Friend:: Child:: Next::
Keywords:
Reference: