Можно ли запрограммировать произвольность?

Можно ли запрограммировать произвольность?

В чем различие человека и программы. Нейронные сети, которые и составляют сейчас практически всю область искусственного интеллекта, могут учитывать в принятии решения гораздо больше факторов, чем человек, делать это быстрее и в большинстве случаев более точно. Но программы действуют только так как их запрограммировали или обучили.

Они могут быть очень сложными, учитывать много факторов и действовать очень вариативно. Но все равно не могут заменить человека в принятии решений. Чем же отличается от такой программы человек? Здесь надо отметить 3 ключевых отличия, из которых вытекают все прочие:

Известно, что, чем выше животное на эволюционной лестнице, тем более произвольным может быть его поведение. И наибольшую произвольность проявляет именно у человека, так как человек обладает способностью принимать во внимание не только внешние обстоятельства и свои выученные навыки, но и скрытые обстоятельства – личные мотивы, сообщенные ранее сведения, итоги действия в схожих обстоятельствах. Это сильно увеличивает вариативность поведения человека, и, по моему мнению, к этому причастно именно сознание. Но об этом чуть позже.


Сознание и произвольность

Причем тут сознание? В психологии поведения известно, что привычные действия мы осуществляем автоматически, машинально, то есть без участия сознания. Это примечательный факт, означающий, что сознание причастно к созданию нового поведения, связано с ориентировочным поведением. Это также значит, что сознание подключается именно тогда, когда надо изменить привычный паттерн поведения, к примеру, отреагировать на новые запросы с учетом новых возможностей. Так же некоторые ученые, например, Докинз или Метцингер, указывали, что сознание как-то связано с наличием у людей образа себя, что модель мира включает и модель самого субъекта. Как тогда должна выглядеть сама система, которая бы обладала такой произвольностью? Какой структурой обладать, чтобы она могла построить новое поведение для решения задачи в соответствии с новыми обстоятельствами.

Для этого нам надо сначала вспомнить и уточнить некоторые известные факты. Все животные, обладающие нервной системой, так или иначе содержат в ней модель среды, интегрированной с арсеналом своих возможных действий в ней. То есть это не только модель среды как пишут некоторые ученые, а модель возможного поведения в той или иной ситуации. И одновременно это модель предсказания изменений в среде в ответ на какие-либо действия животного. Это не всегда учитывают когнитивные ученые, хотя на это прямо указывают открытые зеркальных нейронов премоторной коре, а также исследования активации нейронов макак, в ответ на восприятие банана у которых активируется не только области банана в зрительной и височной коре, но и руки в соматосенсорной, потому что модель банана непосредственно связана с рукой, так как обезьяне интересен только тот фрукт, что она может взять его и съесть. Мы просто забываем, что нервная система появилась не для отражения мира животными. Они не софисты, они просто хотят есть, поэтому их модель – это в большей степени модель поведения, а не отражения среды.

Такая модель уже обладает определенной степенью произвольности, которая выражается в вариативности поведения в схожих обстоятельствах. То есть у животных есть некоторый арсенал возможных действий, которые они могут осуществить в зависимости от ситуации. Это могут быть боле сложные временные паттерны (условно-рефлекторные), чем непосредственная реакция на события. Но все равно это не полностью произвольное поведение, что позволяет нам дрессировать животных, но не человека.

И здесь есть важное обстоятельство, которое нам надо учесть – чем более известные обстоятельства встретились, тем менее вариативно поведение, так как у мозга есть решение. И наоборот, чем обстоятельства новее, тем больше вариантов возможного поведения. И весь вопрос в их отборе и комбинации. Животные это делают, просто проявляя весь арсенал своих возможных действий, как показал в своих экспериментах еще Скинер.

Нельзя сказать, что произвольное поведение является полностью новым, оно состоит из ранее выученных паттернов поведения. Это их перекомбинация, инициируемая новыми обстоятельствами, не полностью совпадающими с теми обстоятельствами, на которые уже есть готовый паттерн. И в этом как раз есть точка разделения произвольного и машинального поведения.


Моделирование произвольности

Создание программы произвольного поведения, умеющей учитывать новые обстоятельства, позволило бы сделать универсальную «программы всего» (по аналогии с «теорией всего») хотя бы для определенного домена задач.

Чтобы могло сделать их поведение более произвольным, свободным? Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирует первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.

Первая модель реагирует на обстоятельства среды. И если активированный ею паттерн оказался новым, вызывается вторая модель, которая научена искать решения в первой модели, распознавая все возможные варианты поведения в новой обстановке. Напомню, что в новой обстановке вариантов поведения активируется больше, поэтому вопрос именно в их отборе или комбинации. Это происходит потому, что в отличие от знакомой обстановки, в ответ на новые обстоятельства активируется не один паттерн поведения, а сразу несколько.

Каждый раз, когда мозг встречается с чем-то новым, он осуществляет не один, а два акта – распознавание ситуации в первой модели и распознавание уже осуществленных или возможных действий второй моделью. И вот в этой структуре проявляется много возможностей, схожих с сознанием.

  1. Эта двухактная структура позволяет учитывать не только внешние, но и внутренние факторы – во второй модели могут запоминаться и распознаваться итоги предыдущего действия, отдаленные мотивы субъекта и т.п.
  2. Такая система может строить новое поведение сразу, без долгого обучения, инициируемого средой согласно эволюционной теории. Например, вторая модель имеет возможность трансфера решений с одних подмоделей первой модели на другие ее части и много других возможностей метамодели.
  3. Отличительным свойством сознания является наличие знание о своем действии, или автобиографической памяти, как показано в статье. Предложенная двухактная структура как раз обладает такой способностью – вторая модель может хранить данные о действиях первой (ни одна модель не может хранить данные о собственных действиях, так как для этого она должна содержать непротиворечивые модели своих действий, а не реакций среды).

Но как именно происходит построение нового поведения в двухактной структуре сознания? У нас в распоряжении нет мозга и даже его правдоподобной модели. Мы стали экспериментировать с глагольными фреймами как прототипами моделей, которые содержатся в нашем мозге. Фрейм представляет из себя набор вариантов актантов глагола для описания ситуации, а комбинация фреймов может служить для описания сложного поведения. Фреймы описания ситуаций – это фреймы первой модели, фрейм описания своих действий в ней – это фрейм второй модели с глаголами личных действий. У нас часто они смешаны, потому что даже одно предложение – это смесь нескольких актов распознания и действия (речевого акта). А само построение длинных речевых выражений – лучший пример произвольного поведения.

Когда первая модель системы распознает новый паттерн, на который у нее отсутствует запрограммированный ответ, она вызывает вторую модель. Вторая модель собирает активированные фреймы первой и ищет более короткий путь в графе связных фреймов, который наилучшим способом как бы «замкнет» паттерны новой ситуации комбинацией фреймов. Это достаточно сложная операция и мы еще не достигли в этом результата, претендующего на звание «программы всего», но первые успехи обнадеживают.

Экспериментальные исследования сознания путем моделирования и сравнения программных решений с данными психологии дает интересный материал для дальнейших исследований и позволяет проверить некоторые плохо проверяемые в экспериментах над людьми гипотезы. Это можно назвать моделирующими экспериментами. И это только первый результат в этом направлении исследования.

Автор: Александр Хомяков


Источник