Машинное обучение (а конкретно сейчас глубокие генеративные нейросети) – это стильно, модно, молодёжно. Не, ну а что? Описал буковками то, что хочешь получить – и вот ты уже новый художник-реалист, импрессионист, модернист, авангардист и прочая, и прочая. А если к этому ещё приплести волну популярности NFT, то вот он – рай для креативщиков, ставящих основной целью искусства денежные знаки. Уже и про профессию подходящую поговаривают. Так что совсем скоро в каком-нибудь мемасике можно будет прочитать: «Ты чё, пёс, я не бездарь, я prompt-инженер».
Я и сам решил немного поиграться c MidJourney. Отчасти на волне тренда, отчасти из-за того, что это пока одна из самых продвинутых и при этом общедоступных diffuse сетей. Мне до этого приходилось иметь дело только с GAN, и результаты новых моделей, несомненно, впечатляют. Давненько я не испытывал подобное восхищение, если честно.
Но сегодня мне хотелось бы поговорить про искусственный разум более глобально и в отрыве от потребительского контента. Сразу оговорюсь, что само это понятие шире и размытее, а машинное обучение является лишь его подмножеством, но в рамках данного рассуждения для простоты будем говорить о них, как о синонимах.
Так уж получилось (и это закономерно), что мы привыкли видеть искусственный интеллект как нечто более-менее равное нам, людям, человеческому виду. Оно и понятно: такой взгляд пришёл к нам из массового искусства, а любое искусство во главу угла так или иначе ставит человека.
Нам кажется, что ИИ должен стать нашим отражением, что он должен обладать нашей психологией, что он должен выполнять те же задачи, которые выполняет человек. Мы видели в кино, как роботы влюбляются в человека, а потом бросают его; как они управляют космическим кораблём, а потом убивают всю команду; как они заменяют ушедших членов семьи, а потом сами оказываются на помойке; самое главное, мы видели, как роботы стремятся убить всех человеков по вполне себе человеческим мотивам.
К сожалению, несмотря на то, что данные картины были созданы мэтрами киноискусства, этот взгляд весьма однобокий, потребительский, антропоцентричный. К ещё большему сожалению, многие инженеры, которые сами непосредственно занимаются разработками в сфере машинного обучения, недалеко ушли от данного взгляда.
Лично у меня напрашивается закономерный вопрос: а зачем нам, собственно, ещё один человек, только электронный? Он решит какие-то принципиальные вопросы, стоящие перед цивилизацией, или добавит ещё ворох новых, как и всякий из нас? Почему практически все представляют себе ИИ как человека? Несомненно, весьма и весьма умного и продуктивного, но всё же человека. Разве человек – это идеал, совершенство, конечная стадия эволюции?
Основной целью ИИ мне видится не имитация, не замена человеческих активностей, не создание нашего собственного отражения, а решение проблем, которые не в силах решить ни каждый человек в отдельности, ни сколько угодно большая группа людей. А такие проблемы есть и будут.
Это проистекает из того, что человек как вид неспособен к «коллективному» сознанию, в то время как наука уже подошла к рубежам знания, которые с трудом воспринимаются и обрабатываются отдельным индивидуумом. Многие вопросы остаются нерешёнными из-за весьма ограниченных оперативных мощностей нашего мозга. К тому же человек неспособен передать весь арсенал накопленных знаний (а главное – пониманий) потомству в готовом виде, а вынужден в каждом последующем поколении обучаться снова и снова, что ещё больше усложняет решение глобальных задач.
Таким образом, необходимо воспринимать ИИ в первую очередь как основной инструмент дальнейшего прогресса человеческой цивилизации. С этой позиции он будет являться логичной, закономерной ступенью на пути развития человечества. Ответом нашего вида на возникающие вызовы, который будет заниматься вопросами за пределами наших возможностей. Условно говоря, новой ступенью эволюции.
В таком случае весьма наивно полагать, что данный электронный мозг должен функционировать целиком и полностью по нашему образу и подобию. Несомненно, он должен обладать каким-либо интерфейсом для взаимодействия с человеком, ведь так или иначе мы должны обмениваться с ним информацией. Но сможем ли мы при этом понимать его внутренние мыслительные процессы и понимать его психологию, если она будет иметь место быть, – весьма сомнительно. Не факт даже, что мы сможем всецело и полностью интерпретировать полученные от него знания, поэтому нам придётся отказаться от понимания теоретических построений и запрашивать лишь алгоритм конкретных действий, будь то решение экологических проблем, избавление от войн и нехватки ресурсов или постройка межгалактических кораблей для колонизации Космоса.
Повторю ещё раз, поскольку это чуть ли не самая важная мысль: вероятнее всего, мы не в силах будем понять все промежуточные этапы и конечные результаты работы искусственного сверхинтеллекта в виде готовых теорий. Но нам это и не нужно, коль скоро он будет предоставлять ещё и подробные инструкции по прикладному, практическому применению этих самых построений. Нам же в данном случае останется только полагаться на него и следовать инструкциям. Готовы ли мы к этому – отдельный вопрос, но оставим его на другой раз.
Ещё один важный момент. Давай представим, что у тебя есть кот или собака. А ещё лучше какая-нибудь рептилия, потому что поведение собак и кошек нам слишком часто кажется человеческим. Так вот. Жизнь этой рептилии, в общем-то, целиком и полностью определяется тобой. Что она будет есть, когда она будет есть, где она будет жить, какая у неё будет свобода действий – это всё решаешь ты как более «продвинутая» ступень эволюции. И, в общем-то, с точки зрения рептилии всё в полном шоколаде (хотя на самом деле для неё это просто обычный ход вещей).
При этом вряд ли такой питомец будет душевно общаться с тобой по вечерам на отвлечённые темы. Вряд ли он будет веселиться или грустить с тобой при перепадах настроения. И уж тем более ты не сможешь объяснить ему квантовую физику. Да что уж говорить, ты даже не сможешь объяснить в случае чего, что ты не специально прищемил его лапку. А он не сможет объяснить, почему именно тебя укусил. Чувствуешь, к чему я веду?
Признавать это неприятно, но наши реальные отношения с ИИ будут, в целом, чем-то таким же, как описанные выше взаимоотношения с питомцем. И даже неважно, кто в данном случае человек, а кто – рептилия. Важна именно принципиальная разница и невозможность полного понимания между существами двух весьма отдалённых видов.
И хотя интерфейс взаимодействия может быть весьма и весьма «очеловеченным». Таким, что при общении с электронным мозгом будет казаться, что общение происходит с живым человеком – это будет только ширма, фасад, за которым скрывается существо совершенно иного толка.
Подведём итог. Первое. Машинное обучение будет всё больше применяться в самых различных прикладных областях, в особенности – генерации потребительского контента. Но основной целью создания ИИ должна быть возможность преодоления ограничений человеческого мозга и тела в глобальных задачах науки и социума. Второе – интерпретация внутреннего состояния (души) такого ИИ будет принципиально невозможна даже при наличии полноценного интерфейса взаимодействия.
На этом пока остановлюсь, думаю, что и так уже заставил твой мозг изрядно пошевелиться. Спасибо за прочтение. Пиши в комментариях, что думаешь об искусственном интеллекте, и хочешь ли ещё статей на эту тему.