Русский
Русский
English
Статистика
Реклама

Почему искусственный интеллект не сойдет с ума

Постер к фильму ТерминаторПостер к фильму Терминатор

Искусственный интеллект видит в людях угрозу и решает уничтожить человечество популярный сюжет в кино и литературе. Искусственный интеллект, далее ИИ, представляют как просто очень умного человека, но думаю, что в ИИ не перенесут все особенности человеческого мозга.

У ИИ не будет эмоций, отвечающих за выживание. При чем тут эмоции? Как это не будет? Что будет вместо них? На эти вопросы я постараюсь ответить далее.

Причем тут эмоции?

Люди совершают поступки и принимают решения, основываясь на внутренних ощущениях. Влияя на внутренние ощущения, можно влиять на поступки людей. Если вы маркетолог или мошенник, то вы знаете о чем я говорю. Маркетологи, простите вы крутые.

Ученые подтвердили это явление различными исследованиями. Приведу любимый пример.

В тюрьмах с пожизненными заключенными есть процедура помилования. Раз в несколько лет комиссия из нескольких человек решает, исправился ли заключенный, и можно ли его отпустить. Как в фильме Побег из Шоушенка.

Кадр из фильма Побег из ШоушенкаКадр из фильма Побег из Шоушенка

Ученые разобрали результаты работы комиссии за много лет, и обнаружили неожиданный факт. Большинство помилований комиссия выдала после обеда, когда внутренние ощущения судей были получше.

Пример спорный, но таких исследований много. И все они подтверждают роль эмоций в принятии решений. Подробней об исследованиях на которые я ссылаюсь почитайте в книге Думай медленно, решай быстро. Автор книги - Даниэль Канеман, обладатель нобелевской премии по экономике. И да, в экономике эти знания уже используют.

Очень интересно, но причем тут искусственный интеллект? Уже скоро, но давайте сначала разберемся, а зачем людям внутренние ощущения или эмоции?

Эмоции нужны чтобы решить, что делать. Страх помогает избегать опасностей. Голод не дает умереть от истощения. Без эмоций мы просто замрём на месте, и в какой-то момент умрем от обезвоживания. При этом нам будет все равно.

Такое эмоциональное поведение важно в задачах, где нет четкого решения. Как выжить в лесу? Что можно есть, а что нельзя?

Какую зубную пасту выбрать?

Кто-то выберет красивую упаковку. Кому-то внутренние чувства подскажут, что лесные травы это хорошо. Но мало кто полезет искать результаты клинических исследований влияния ингредиентов на здоровье зубов. Без объективных данных любая цепочка рассуждений закончится эмоциональным аргументом: это хорошо или это плохо.

К сожалению, в голове нет объективного источника истины. Зато есть приятные и неприятные сигналы органов чувств.

Наш мозг устроен так, что негативные эмоции влияют на нас значительно сильнее. Страх, который не пересилить. Боль от огня, которую не проигнорировать. Неудачный опыт влияет на принятие экономических решений.

В ходе эволюции в живых остались те, кто избегал опасных ситуаций. Лучше поголодать вечер, чем умереть, съев неизвестную ягоду. Неуверенность, страх, тревога и прочие негативные эмоции легко берут над нами верх. В особо волнительных случаях организм переключается в режим Бей или Беги. В таком состоянии люди себя контролируют плохо.

Искусственный Интеллект

Изображение из игры System Shock 2Изображение из игры System Shock 2

ИИ тоже нужен аналог эмоций. ИИ должен понимать, какие действия ведут к выполнению задачи, а какие, к провалу. В каком направлении двигаться если нет подходящего алгоритма и т.п.

Но, ИИ не надо заботиться о выживании. Ему не придется экстренно отбиваться от дикого зверя. Сильные негативные эмоции ИИ не нужны.

С такими "настройками эмоций", для ИИ работа будет как скучная компьютерная игра. Мы решаем игровые задачи без бурной эмоциональной реакции. Монстры в игре пытаются нас убить, но мы не впадаем в панику, это не вопрос жизни и смерти.

Без механизмов выживания в опасной, дикой природе, ИИ будет исполнительным работником, "буддистом", который на все смотрит со стороны. Доминирование человечества для него будет фактом, который можно проигнорировать.

Опасность, как и всегда, будут представлять плохо контролируемые эмоции людей, владеющих технологией.

P.S.

В отличие от бумажной газеты, статью в интернете можно отредактировать, а значит, сделать ее еще лучше. Буду рад увидеть в комментариях ваши отзывы, рассуждения, критику, замечания по поводу орфографии и пунктуации.

Источник: habr.com
К списку статей
Опубликовано: 10.02.2021 00:11:55
0

Сейчас читают

Комментариев (0)
Имя
Электронная почта

Исследования и прогнозы в it

Научно-популярное

Искусственный интеллект

Научная фантастика

Мозг

Ai

Artifical intelligence

Neuroscience

Cognitive psychology

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru