НЕЙРОВЛАСТЬ
Алексей: Итак, продолжаем нашу серию подкастов. Сегодня в студии у нас Данила Медведев — прикладной футуролог. И мы поговорим про очень щепетильную тему: «Нейровласть». Данила, привет!
Данила: Приветствую.
Алексей: Какое-то время назад в парке Музеон проходило выступление Данила. Было такое достаточно такое интересное мероприятие. Насколько я помню, оно проходило в прямом эфире на телевидении. Я. в этом мероприятии присутствовал. Данила на нем рассказывал про будущее искусственного интеллекта, нейронных сетей. И, собственно, рассуждения навели меня на вопрос такой…С одной стороны, есть очень банально тема не захватит ли искусственный интеллект власть не подчинить ли людей, но в принципе, об этом из каждого утюга говорят. Тема, на мой взгляд, не очень интересна для сегодняшней дискуссии. А вторая часть проблемы — заключается в том, что если посмотреть на органы управления страны, компании, города, то есть разных структур, то «А может ли искусственный интеллект заменить генерального директора, руководителя мэра, губернатора президента?» И отмечу перед тем, как дам слово Даниле о том, что как только мы этот вопрос пытались поднять и выйти в дискуссию, было видно, что вопрос очень щепетильный, всех смущает, и как-то с него все съезжают. Хотя на самом деле, мне кажется, крайне важный, потому что если искусственный интеллект действительно продолжает развиваться и становится интеллектом в понимание слова, то почему бы ему не управлять городом? Это же очень логично. Тем более по городам у нас даже было несколько идей, что с городом как территорией, он точно должен справиться. И сегодня мы в подкасте попытаемся в этом разобраться. Данил, давай. Что ты думаешь? Может ли появиться нейромэр, нейрогубернатор, нейрогенеральный директор, нейропрезидент? Что вот здесь?
Данила: Я думаю, что для маленьких городков нейромэр появиться может уже в самом, самом близком будущем. Потому что чем меньше масштаб системы, тем она проще и тем она ближе к возможностям и способностям, искусственного интеллекта сейчас. То есть управлять мегаполисом, таким, как Москва, Токио, наверное, пока еще искусный интеллект не может, что, наверное, точно не может. Но если мы говорим про населенный пункт, 150-250 человек, где есть, должен быть председатель сельской какой-нибудь администрации или сельского совета, и мы понимаем, что мы не можем выпускника РАНХиГС отправить туда, потому что это сожрет весь бюджет этой деревни, то приходится обходиться теми ресурсами, которые есть. И тогда получается, что какой-нибудь может быть механизатор, допустим, он днем работает на ферме, а вечером он должен надеть костюм или шляпу мэра и начать руководить своим населенным пунктом. И вот тут искусственный интеллект уже может, по крайней мере, половину работы на себя брать. То есть прочитать письмо, которое пришло от районной администрации и понять, что там написано, это интеллектуальная работа, которую современный чат-бот уже может сделать. То есть ты ему кидаешь текст письма и говоришь: «Слушай, объясни мне простым языком, что они от меня хотят». И вот это вот та работа, которую может сделать уже сейчас такой нейровице-мэр, назовем его так.
Алексей: Я помню, в одном из разговоров наших с тобой нет подкастов. ты как-то делил искусственный интеллект на несколько интеллектуальных слоев. И вот, кажется, об этом стоит поговорить, потому что управленческие вопросы, они точно относятся к категории достаточно сложных. Можно про это поподробнее?
Данила: Сразу поправлю тебя. Управленческие вопросы не относятся к категории сложных. Управленческие вопросы бывают абсолютно любого уровня. Маленький ребенок, который думает, как ему спуститься по лестнице, не уронив при этом игрушку, которая у него в руках, ему руки нужны, чтобы держаться за ступеньки, пока он маленький, а игрушка, если он ее оставит наверху, то как он ее потом возьмет? Так вот тут уже начинается управленческой работы. То есть ты уже планируешь, ты уже рассматриваешь альтернативный сценарий, ты уже начинаешь это исполнять и потом контролировать исполнение. То же самое, когда мы говорим про управление в масштабе всей планеты, например, какие-нибудь климатические проекты, климатические программы и то, и то управление. Но оно действительно отличаются по уровням мышления. Уровни, которые пониже там управленец, работает с простыми, понятными физическими объектами. То есть, например, ты собираешь заказ в супермаркете, кладешь арбуз, и тебе надо принять управленческое решение, гнилой он или нормальный, спелый, и его стоит класть. Это тоже управленческое решение. Оно пока очень маленькое, простое. А если мы поднимемся намного уровня выше, то там уже начинается работа с какими-то абстрактными понятиями, не с конкретными арбузами, а, например, ты думаешь, выбирать ли этого поставщика, например, по критерию — свежесть продуктов. И вот там свежесть — это уже не свежесть конкретного арбуза, а там это свежесть, как такое обобщенное понятие за последние полгода все арбузы и другие фрукты, которые нам привозили, были они в целом свежими или нет. Еще поднимаешься уровнем выше, там ты вообще переходишь на уровень абстракции, например, удовлетворяем ли мы вообще клиентские потребности? Создаем ли мы, например, ощущение счастья для клиента? И это уже не связано с конкретным арбузом. Это уже уровень гораздо более абстрактного мышления и решений, гораздо более сложных. То есть, например, как поменять подрядчика на обучение наших сотрудников, чтобы благодаря этому обучению наши сотрудники смогли бы поддерживать ощущение счастья у наших клиентов и ценность нашего бренда росла бы и ценность нашей компании для акционеров росла бы еще. Вот этот уровень он тоже управленческий, но он уже очень-очень, очень высокий. И вот прикол с искусственным интеллектом сейчас заключается в том, что он хорошо может справляться с уровнем на самом нижнем, с физическим, там, где есть арбуз, надо его катить куда-нибудь, может быть, там проверять, еще что-то в пакет его класть, но он не может справляться с абстракциями, он в них путается абсолютно. Вот такая вот ситуация по уровню мышления. И когда мы сейчас задумываемся, а может ли искусственный интеллект нам послужить как-то полезно или, может быть, занять какие-то позиции в обществе, то нам нужно обязательно разграничивать интеллект какого уровня и для задач, какого уровня в обществе.
Алексей: Правильно, ли я понимаю, что тезис о том, что часть функций точно можно решать искусственным интеллектом, без человека, у сложных систем останется человек, у каких-то менее крупных, менее масштабных это в принципе, уже вполне под силу автоматизировать сегодня, если взять какие-то там села, то есть, в принципе, там можно нейромэра, я не знаю, условно сделать это, может быть уже таким реальным экспериментом?
Данила: Помощником мэра однозначно можно было бы хоть сейчас начинать такие эксперименты. Но для того, чтобы распределить эти полномочия и вообще понять, что искусственный интеллект может делать, что нет, тем, кто принимает решения, надо обязательно в голове иметь такую модель, уровни сложности мышления, уровни сложности мира, уровень сложности социальных и организационных структур и уровней власти. То есть надо понимать, чем отличается генерал от лейтенанта или сео от супервайзера. Если тот, кто принимает решение, не может четко и понятно правильными терминами обозначить разницу между супервайзером и сео, то, наверное, он искусный интеллект правильно внедрить не сможет.
Алексей: Вот такой вопрос технический, я не знаю, насколько я глубоко понимаю, нейронные сети, искусственный интеллект может быть разный в ближайшее время, сейчас пока, я так понимаю, что одно и то же, но не исключено, что пройдет год, два, три и нейронные сети останутся в одной стороне искусственный интеллект в другой, но я слышал версию о том, что проблема с искусственным интеллектом сегодня, непонятно, как он действует и это начинает плодить ошибки, которые невозможно установить, почему. Он, допустим, у нас оказался руководитель определенного города, точки или компании, вот он начинает плодить ошибки, а получается, как бы уже исправить ситуацию невозможно. Вот такая ситуация. Что с ней делать?
Данила: Я думаю, что это совершенно дурацкая форма описания проблем. То есть все, кто говорят про вот эти галлюцинации, которые возникают у нейро сетей и говорят о том, что нам нужен объясняющий искусственный интеллект, то есть когда он не просто говорит решение, но и объясняет, почему он так думает, эти люди просто как попугаи повторяют то, что написали другие эксперты, сами не понимают ничего, не понимают, что они ничего не понимают и просто создают шум. В этом смысле они не отличаются от нейросеток. Люди- нейросетки — это явление уже существующее. А как на самом деле на это все стоит смотреть? Нужно уметь осознавать, а что такое коммуникационный акт, управленческое решение? Управленческое решение, что оно имеет на входе, что оно имеет на выходе? Как связано управленческое решение и физическая система, с которыми работаем? Вот когда люди научатся понимать вот это, они очень четко будут понимать, где искусственный интеллект может помочь, а где он путается. Потому что современный искусственный интеллект сегодня — одна и та же нейросеть, OpenAI, вот этот GPT и GPT4, он одновременно и делает какие-то фантастические классные штуки, то есть практически придумывая чуть ли не научные открытия и одновременно он не может ответить на простой вопрос — назовите мне страны в Европе, которые начинаются на букву А. Он берет, начинает список, например, с Германии или с Франции. Вот такие вот операции он может просто зафейлить. И получается, что у нас есть, с одной стороны, гений, а с другой стороны, он же и умственно отсталый. И, к сожалению, если ты менеджер сотрудника, который гений и умственно отсталый, то тебе нужно быть очень хорошим психологом, конъюнктивитом, то есть тебе нужно знать, что он для тебя может сделать, а что он для тебя не может сделать. И вот как есть родители, которые хорошо освоились растить детей с особенностями умственного развития, вот точно так же нам нужны такие же родители для искусственного интеллекта, которые прямо реально очень хорошо понимают, что триггерит его, какие слова не надо говорить, как надо успокаивать, если случилось что-то плохое. Вот то же самое нужно и здесь. А мы привыкли строить корпорации, по сути, как армию или, как, не знаю, там, завод по строительству пирамид в Древнем Египте. То есть просто стоит надсмотрщик с палкой и пытается программистов заставить работать. А если даже на людях это уже не очень хорошо работает, то с искусственным интеллектом еще сложнее, у него еще больше особенности развития. Надо относиться к нему с добротой, с пониманием, может быть, воспитателя отдельно ставить, может быть, нянечку, не знаю.
Алексей: Интересно, скажи, а вот когда мы говорим про города, компании, все-таки структуры такие достаточно инертные, регулируемые в каком-то смысле и, наверное, этот процесс будет, если нейровласть будет появляться, это будет такой длительный процесс того, как это должно соотноситься с законодательной средой, с ценностями общества. А есть какие-то примеры, может быть в неформальных сообществ или еще каких-то социальных структур, в которых вот эта нейровласть в каком-то виде появилась и решается или пока ты такого не видел?
Данила: Отдельные примеры, конечно, есть. Люди пытались последние 20 лет какие-то сообщества переносить в цифру, в социальные сети, и там это все строилось вокруг упрощения. То есть какая-нибудь торговая площадка, маркетплейс, а он хорошо работает, потому что мы все взаимодействие свели к очень простому. Вот есть продукт. Вот есть покупатель. Купил, доставили. То же самое с какими-нибудь сервисами такси. А когда мы говорим про что-то более сложно, например, попытки создать соцсеть для ученых, таких как Академия или ресечьгейт, а там выясняется, что это сложно сделать, потому что взаимодействие вот этих интеллектуалов или управленцев, оно не сводится к операции, что надо приехать из точки А в точку Б. И для того, чтобы сегодня делать вот такую замену, нам нужно сначала сделать такую декомпозицию, деконструкцию управленческого процесса. То есть этим, в принципе должны заниматься консультанты, бизнес школы, может быть, какие-то департаменты повышения эффективности госуправления. У нас, в принципе, все такое есть. Они должны сделать работу. То есть как бизнес процессы в корпорациях рисуют большие сложные схемы. Вот точно так же нужно понять, а как можно обобщить это? А в чем вообще интеллектуальная деятельность человека, управленца, который приходит в 09:00 на работу в 17:00 уходит, вот давайте посмотрим все, что было посерединке. А какие типы решений там есть? И дальше нужно уже делать серьезную работу. То есть смотреть про каждое решение, насколько оно важное было, насколько оно было сложное, сколько там работы аналитической, сколько там работы творческой и думать, где полезно попробовать перекинуть это на искусственный интеллект. Потому что если мы говорим про, скажем, все юридические лица России 100 миллионов юрлиц, 100 000 каких-то организаций среднего размера, то там происходит очень много повторяющихся вещей. То есть нам пришло коммерческое предложение, нам надо хотя бы базово понять, будем мы его рассматривать или, ну, его нафиг. И эту работу точно совершенно может сделать искусственный интеллект. Но для этого нужно сделать какую-то типологию этих задач, а этим пока никто не занимается, причем не только в России, но и в мире в целом.
Алексей: Если посмотреть на развитие искусственного интеллекта во власти и в точках принятия решений, да, наверное, сейчас такой основной путь, которым все пошли, смотрят на конкретные проблемы, придумывают информационный способы решения, технологические способы решения этих проблем и потом начинают за уши притягивать к теме. Ну, например, берем города, потому что там есть система управления дорожными потоками, трафиком, светофорами, вот как бы смартсити поднимается наверх. Но из того, что ты говоришь, кажется, логичным было бы идти наоборот. То есть пуская этот путь снизу-вверх от предмета к управленческому решению сохраняется, но при этом смартсити не развивать. Это же очевидно, да? А то, что ты говоришь, логично было бы идти, с другой стороны. То есть проанализировать весь процесс решения и попробовать пойти туда и какие-то инструменты, попробовать протестировать на этом поле, правильно?
Данила: Это просто необходимая часть. Когда мы говорим про…, скажем, смарт сити или какие-то кейсы по искусственному интеллекту, которые пытаются реализовать для решения какой-то размытой проблемы в какой-то области, то есть просто давайте сделаем дорожное движение лучше… А это то же самое, как ты приходишь к врачу в поликлинику и говоришь: «Доктор у меня болит в боку». Но то, что у тебя болит в боку, это может быть связано абсолютно с чем угодно, начиная от почки, которая может болеть и заканчивая тем, что у тебя отдается, например, боль какая то в позвоночнике, которая связана с тем, что ты недостаточно занимаешься физкультурой. И соответственно в первом случае тебя нужно отправить к неврологу, к урологу и сдавать анализы. А во втором случае нужно тебя отправить, например, к хирургу, может быть, чтобы он посмотрел твой позвоночник или вообще просто к терапевту, который расскажет тебе, как надо делать зарядку по утрам. И это абсолютно разные маршруты, абсолютно разные технические решения для тебя, связанные с одним и тем же симптомом. У меня болит в боку. И когда приходит кто-то заказчик, например, от города и говорит: «У меня болит в боку, у нас вот что-то недостаточно хорошо, например, с озеленением, причем мы не знаем сами что… то ли мы посадили деревья и потом забыли их поливать, регулярно история бывает. Сейчас же декоммунизация происходит, люди пытаются захват углерода делать». Вот в некоторых городах по миру сажают просто огромное количество деревьев. Потом выясняется, что запланировать их полив забыли. Поэтому проходит два года все деревья засухи. Вот и возникает вопрос здесь, что искусственный интеллект нужен какой-то особенный или, может быть, нужно понимать, вообще из каких шагов состоит то, что вы делаете? Посадили, потом полили, потом еще раз полили, потом еще раз полили.
Алексей: Ну, может быть, нужна нейросетка, которая причинно-следственные связи помогает высчитывать?
Данила: С причинно-следственными связями, вот мы тут недавно общались с ведущей телекоммуникационной компанией, которая пыталась как раз понять, почему у них топ менеджмент не понимают именно причинно-следственные связи, и мы предлагали ряд программ, они решили в итоге давайте мы попробуем своими силами наладить работу с документооборота. То есть, по сути, речь идет о том, что мы не хотим понимать причинно-следственные связи, мы не хотим думать, мы хотим, чтобы просто бумажки можно было перекладывать как-то еще более просто. Но у меня здесь есть плохая новость для любой компании, что так это не работает. То есть вы не можете никак уйти от необходимости понимать причинно-следственные связи. Я знаю, скажем, если взять кейс РусГидро, когда у них с Саяно-Шушенской ГЭС накрылась, то они дальше стали копаться в себе и рефлексировать, и думать, а почему так получается, что у нас чего то прорывает плотину или еще что-то происходит? И они стали тестировать всех своих инженеров, включая старших инженеров, включая главных инженеров на способность строить причинно-следственные связи. И когда они выяснили, что они не способны это делать в принципе. Причем, чем старше сотрудник, тем меньше он способен. Они к их чести признали это и стали запускать программы обучения школьников в большом количестве, где их учат: тризу, системному мышлению, как раз критическому мышлению, учат строить причинно-следственные связи. Потому что компания РусГидро поняла, что бы на перспективу у них были инженеры и управленцы, которые к этому способны нужно восстановить это забытое мастерство. И я думаю, что, то же самое нужно сделать и всем остальным компаниям. Просто они, видимо, все ждут свою Саяно-Шушенскую ГЭС.
Алексей: Понятно, хорошо. Если вернуться к мыслям по поводу нейровласти искусственного интеллекта, очевидно, тема интересная, что-то на ней уже можно тестировать, есть даже понимание гипотезы, каким путем идти, какой следующий шаг с твоей точки зрения сейчас нужно сделать?
Данила: Любая крупная компания должна просто новую позицию поставить так же, как они делали Сhief Information Officer, Chief Data Officer. Ну, если Вы не можете ничего более глубокого сделать, назначьте самого умного самого толкового Chief Cognition Officer, который будет отвечать за мышление, пусть он будет, соответственно на сил левел отвечать перед сио и дайте ему полномочия, во-первых, заниматься искусственным интеллектом, во-вторых, заниматься человеческим интеллектом, потому что как бы все текущие управленческие процессы, они решаются человеческим интеллектом. И дальше, очевидно, нужно будет какие-то программы, там, государство РАНХиГС, все вот эти дела, консультанты придут помогать. Но мне кажется, что другого пути здесь нет. Это точно совершенно область, которая 100% должна быть выделена, как такая новая, приоритетная. Пытаться делать искусственный интеллект в рамках организационной, я имею в виду в рамках Департамента информационных технологий или дирекции по цифровизации, это абсурд, потому что Вы только наплодите больше данных, больше каких-то решений, которые потом никто не сможет соединять между собой. И самое главное, никто не будет понимать, как они помогают делать непосредственно работу, потому что цифровизаторы и айтишники, их стыковка с бизнесом это вечная проблема. Все об этом очень хорошо знают.
Алексей: Звучит интересно. Кажется, что это какая то эволюция темы цифровой трансформации…
Данила: Нет. Невозможно. То есть не может цифровая трансформация эволюционировать в что-то когнитивное, потому что это два принципиально разных уровня. То есть цифровая трансформация занимается данными самый нижний уровень, то есть просто больше Битов и Байтов, ноликов и единичек. А когнитивная это про…, по сути топа, про сио, который сидит наверху и который принимает решения, как нам кажется, интуитивно и по наитию, но на самом деле он принимает его на основе сложных интеллектуальных моделей, которые он в голову загрузил в течение всей своей жизни благодаря своему опыту. И он работает совершенно точно не с цифровизацией. Когда Наполеон или Кутузов, или другие какие-то гениальные товарищи, тот же Александр Македонский пытался управлять своей империей или своим войском, он это делал не на основе данных, то есть там не было Data Driven Decisions, там было простое: «Хочу захватить Мир! О’кей, я пошел». И дальше по ходу принимались управленческие решения и почему-то это работало очень хорошо. Точно так же. Юлий Цезарь, много примеров. Екатерина Великая, Петр I у них же не было данных!
Алексей: Что-то как кажется, что это отдельная тема. Я бы, наверное, предложил записать подкаст на тему того, как быть какая структура может существовать для того, чтобы компании стали более когнитивные, были компании, структуры и были открыты к внедрению нового будущего, связанного с искусственным интеллектом.
Данила: Я согласен, не все слушатели смогут понять это без помощи Chief Cognition Officer.
Алексей: Хорошо, мы будем стараться. А на сегодня у нас все. Спасибо, что были с нами. Следите за нашими новыми выпусками.