Алгоритмы разума - Амосов Николай Михайлович - Страница 40

Неразумные поступки чаще всего проистекают от изменения оценок правильно воспринятых внешних воздействий. Оценки строятся по характеристикам центров потребностей-чувств. Если их сместить в ту или другую сторону — горькое будет казаться сладким, плохое — хорошим или наоборот. За этим последуют соответствующие неправильные действия. Когда такое смещение касается одного чувства, тогда мы имеем дело со «странностью» (скажем, человек начинает бояться пространства и не выходит на улицу). Так называемые пороки тоже иллюстрируют смещения чувств. Обжоры, сластолюбцы и честолюбцы не считаются больными, хотя их поведение нередко выходит за границы общепринятой нормы. Воспроизвести такие отклонения поведения на модели не представит особого труда.

Гораздо серьезнее смещение соотношения активности интегральных центров Пр — НПр. Если нулевая линия безразличия смещена кверху, то даже нормальная «плата» (то есть внешнее воздействие) оценивается как недостаточная, и, следовательно, человек ощущает неудовлетворенность, которая порождает ущемленность, подозрительность, эмоцию горя, может вызвать двигательную реакцию гнева или, наоборот, апатию. Слабое смещение нулевой линии характеристик кверху выражает пессимистический склад психики, сильное смещение свидетельствует о депрессии.

Противоположный сдвиг нулевой линии дает оптимистов, интегральное чувство Пр у них преобладает и диктует соответствующее поведение: веселый нрав, эмоции радости при малейшем поводе.

Если совместить изменение активности чувств Пр — НПр с изменением характеристики СУТ, то можно получить картину, напоминающую заболевание, называемое маниакально-депрессивным психозом. Для депрессивной фазы повышение значимости НПр нужно сочетать с замедлением действия СУТ, с понижением ее эффекта активации и усилением торможения. Наоборот, повышение значимости Пр вместе с активацией усиливающего эффекта СУТ и понижением тормозящего даст маниакальную фазу того же психоза.

Изменения характеристики СУТ, отдельных частных потребностей, убеждений, значимости «чувства реальности», соотношения Пр — НПр в сочетании с изменениями параметров памяти позволяют получить бесконечное многообразие изменений поведения. Можно предвидеть очень интересные работы в этом плане, особенно если учесть, что психиатрия остается пока эмпирической наукой.

Исследование патологии на модели искусственного интеллекта представляется важным для практики. Если «психика» ИИ будет неустойчива, то потребуются специальные конструктивные решения, ограничивающие изменения характеристик рамками безопасности. Это имеет отношение к «законам робототехники» Азимова.

Сначала обратимся к искусственному интеллекту, создаваемому для управления сложными системами, либо с целью делать это лучше, чем люди, либо для работы в условиях, где люди не могут существовать. Можно предположить такие примеры:

1. Роботы с интеллектом для работ под водой и в космосе, особенно на Луне и планетах.

2. ИИ для управления технологией.

3. ИИ с комплексом диагностической и управляющей аппаратуры, предназначенный для лечения больных.

4. ИИ для обучения и даже воспитания детей. Физическое воплощение такого воспитателя еще требует проработки.

5. Наконец, ИИ для управления экономикой общества. Кроме первой задачи, все другие требуют очень высокого уровня интеллекта, во всяком случае выше среднего человеческого, но притом ИИ должен обладать еще некоторыми дополнительными качествами, иначе не будет смысла в его применении.

Для такого ИИ, живущего среди людей, прежде всего нужна речь в самом широком смысле этого слова — устная, письменная, понимание графических и математических моделей.

Необходимым качеством должна быть обучаемость, поскольку невозможно обеспечить разумное взаимодействие со сложными динамическими системами без программы постоянного изменения моделей и приспособляемости.

Вопрос о воспитуемости как втором проявлении принципа самоорганизации представляется более сложным, и мы его рассмотрим ниже. Предварительно скажу: воспитуемость, то есть способность изменять характеристики заданных изначально потребностей и чувств, нужна обязательно. Уточнения требует лишь ее степень. Человек и животные тоже воспитуемы, но в разных пределах.

Разнообразие людей выражается в разнице характеристик врожденных чувств и характера, а также в способностях. В частности, в особенностях элементов памяти.

Разнообразие интеллектов, даже одинаково запроектированных, должно возникнуть само собой в результате самоорганизации в процессе деятельности.

Уровень сознания ИИ зависит от его назначения. Для подводного робота достаточно и второго уровня, для всех же других «профессий», если их выполнять лучше, чем люди средних возможностей, необходим третий уровень.

Врожденные потребности и убеждения являются основными источниками активности, управляющими всеми действиями с моделями. Интеллект всегда утилитарен, даже если он нацелен на совершенно отвлеченные идеи. В ИИ на физических элементах врожденные потребности закладываются в виде «центров» — моделей со специфическими характеристиками, работающими как генераторы активности. В АИ активность — лишь параметр, выражаемый цифрами, но через его изменения осуществляется все регулирование действий с моделями. Изменение «врожденных» характеристик в процессе деятельности — главное проявление воспитуемости. Другим проявлением является создание убеждений.

Видимо, для каждого искусственного интеллекта необходима по крайней мере одна специальная потребность — самосохранение. Сюда входят питание и безопасность. Первое проявляется во внешнем энергетическом снабжении, второе — не только в защите и стремлении избегнуть внешней угрозы, но и в «боли» — как сигнале о внутренних неполадках. Любая разумная машина, рассчитанная на самостоятельное существование, должна «ощущать боль» при повреждениях и иметь системы надежности. Внутреннюю «боль» ИИ легко воспроизвести, но внешняя угроза имеет информационный характер и требует программы выделения и распознавания образов угрозы. Потребности самосохранения выражаются в соответствующих чувствах, трактуемых на человеческом языке как голод, боль и страх. Страх — более широкое понятие, чем чувство, вызванное угрозой, действующей в данный момент. Это слово выражает также и чувство от любых будущих воздействий, угрожающих удовлетворению любой потребности. «Боюсь голода, боли, скуки, старости» и «сейчас, в данный момент, боюсь собаки или хулигана» — это не одно и то же.

Рабочие потребности и соответствующие им чувства обязательны в искусственном интеллекте высокого ранга. Главная из них — потребность в новизне (или просто любознательность) — особенно важна. Если создавать ИИ-исследователь, то именно это чувство должно стать главным стимулом его поведения. Столь же интересны потребность в деятельности и «рефлекс цели» — они действуют при любом ФА, хотя в большинстве случаев не обеспечивают сколько-нибудь значительных стимулов и не могут создать высокого напряжения действия.

Универсальной является потребность в расслаблении и отдыхе как реакция на любую напряженную деятельность. Активность чувства утомления является главным «тормозом» и в значительной мере определяет дееспособность ИИ в любой сфере. Спрашивается, нужно ли вообще задавать это чувство для искусственного интеллекта, призванного общаться с людьми. Мне кажется, что оно выполняет полезные функции, регулируя ФА, определяя расход энергии стимулов. Если его не будет, возможен «разнос», чрезмерное усиление одного вида действий в ущерб другому (особенно, если задано качество тренируемости элементов ИИ).

Чувство скуки, ощущение «надоело» сродни утомлению, оно тоже является «тормозом» и ограничивает продолжительность однородной деятельности, требуя переключения, хотя и не связано с расходом энергии. Необходимость такого чувства очевидна, хотя чрезмерное развитие его сделает ИИ бездельником.