live13 (live13) wrote,
live13
live13

Про искусственный интеллект

В последние годы мое восприятие искусственного интеллекта значительно поменялось. Виной этому стали сериал Терминатор Хроники Сары Коннор (http://ru.wikipedia.org/wiki/Хроники_Сары_Коннор), последняя часть Терминатора, WALL E и многие другие произведения на данную тему.


Во многих произведениях, да и в головах большинства обывателей искусственный интеллект и его материальное, оживленное воплощение – роботы представляются личностями. Такими себе простачками, большими детьми, которые с широко раскрытыми глазами познают окружающий мир; стремятся сравниться с живыми существами из плоти и крови в человечности или даже превзойти их. Возникает впечатление, что достаточно предъявить разумной машине достойные примеры и она все поймет, воспримет и можно сказать даже обретет душу. Именно так воспринимается классическая концовка второго терминатора. Т-800 становится человеком, личностью. Единственное что он не способен – проявить свои эмоции слезами. Не потому что еще не знает, когда это следует делать, а в силу ограничений собственной конструкции.
Таких примеров в художественной произведениях – тьма. И берут они свое начало в анимистических художественных приемах, приписывающих человеческие черты неодушевленным предметам, животным и даже силам природы. Вера в одушевленность всего окружающего уходит корнями еще в детство человека. Каждый человек проходит три важнейшие стадии созревания личности. Сначала он осознает самого себя, отделяет от остального мира, обретает самосознание. Потом учится различать другие личности. И уже после этого учится находить баланс между своими эгоистичными желаниями и желаниями других личностей. Некоторые личности так и остаются ущербными, несформированными. Бывает, что пропускается один или сразу несколько этапов формирования личности. Окружающим такой ущербной личности остается только посочувствовать. Ведь ущербная душа может не испытывать сострадания, и без всяких угрызений совести следовать только эгоистичной модели поведения. Собственно такими несформировавшимися душами и обладает большинство маньяков, охочих до власти карьеристов и прочих асоциальных типов.
Но мы отвлеклись от главного. Каждый ребенок в процессе становления личности проходит этап, когда он может воспринимать равными себе игрушки, предметы, животных или выдуманных персонажей. Это нормально. Ведь со временем ребенок наберется опыта и все расставит по своими местам. А игры и вовсе являются полезным тренажером, позволяющим безопасно моделировать бесконечное множество жизненных ситуаций.

Пока казалось бы все просто. Каждый исследователь в области ИИ начинает с уверенности в том, что достаточно дать ИИ небольшой набор базовых правил, а потом дитя само разберется что хорошо, что плохо и как следует себя вести в любых ситуациях. В простейших примерах все так и есть, но по мере усложнения системы возникает все больше трудностей. Проблема заключается в критериях оценки. Сложно изобрести критерии оценки отдельных поступков и еще сложнее вывести критерии общей оценки поведения.
И тут настает время вспомнить незаслуженно забытую в наше время науку кибернетику. Кибернетика как раз и позволяет отличить настоящий ИИ от простой реализующей жесткий алгоритм системы.
Что такое настоящий и ненастоящий искусственный интеллект? Настоящий ИИ обладает целью. Ненастоящий – выполняет последовательность команд. По сути это реализация алгоритма, а алгоритм – это реализация метода решения конкретной задачи. Первейшей и главнейшей отличительной чертой кибернетической системы является гибкость. Кибернетическая система не ставит перед собой целей и не выполняет пошаговых инструкций. Вместо этого у системы есть понятие устойчивого состояния. Есть обратные связи. И всеми доступными ей средствами система стремится к удержанию себя в устойчивом состоянии. В этом и заключается принципиальное отличие от простого алгоритма. У кибернетической системы нет набора инструкций if условие then. Она не ограничена реагированием на конечный набор заранее предусмотренных ситуаций. Кибернетическая система оценивает любое изменение своего состояние и предпринимает меры по удержанию себя в устойчивом состоянии. И только если воздействие окажется настолько сильным, что система не сможет скорректировать его собственными силами – она потерпит неудачу. Обычная же система с жестким набором правил терпит поражения после первого же непредвиденного воздействия.
Норберт Виннер
Еще с самого момента возникновения науки кибернетики идеалом для искусственного интеллекта всегда был и до сих пор является человек. По той лишь простой причине, что людям сложно представить себе более разумное, чем человек создание. Да и честно говоря, на сегодняшний момент и не нужно. Ведь даже текущая задача может оказаться нам не по зубам.
Думаю из вышеизложенного ясно, что главной отличительной чертой интеллекта человека является гибкость, которая складывается из его разума и воли. Попробуем разобраться откуда она берется.
Еще в школьных учебниках биологии пишут, что каждый индивид в собственном генезисе повторяет генезис своего вида. Это значит что, начинаясь с простейшего многоклеточного организма – сперматозоида, человек в утробе матери проходит все стадии эволюции от беспозвоночного до примата. Но прекращает ли он быть всеми этими существами после того как появляется на свет, растет и приобретает характерные человеческие черты? Правильный ответ - нет! В человеке содержится, и прекрасно между собой уживается вся богатая палитра более простых видов. Наша реакция на простейшие раздражители наподобие отдергивания конечности от холодного/горячего предмета ничем не отличаются от естественной реакции на подобный раздражитель у простейшей амебы. Инстинкт самосохранения, стремление к продолжению рода, различие особей своего и чужого вида, потребность в общении и обществе – все это черты, унаследованные человеком по эволюционной цепочке. В этом наследовании заключается сила человека как вида и обеспечивает его выживание.
В чем же главное отличие человека от всех более простых видов? В силе воли, которая позволяет человеку переопределить любой из нижестоящих на эволюционной лестнице инстинктов и разуме, который может направить волю в нужное нам русло. Только благодаря разуму и воле человек может преодолеть естественную реакцию на боль и даже угрозу своей жизни. В критических условиях эти качества позволяют человеку жертвовать жизнью не только ради друзей и близких, но даже ради абстрактной идеи. Не буду останавливаться только на очевидных положительных примерах. Силой воли человек может преодолевать даже такие полезные инстинкты как забота о потомстве или помощь особям своего вида.
Что же движет человеком, определяет не отдельные его действия, а всю стратегию поведения целиком? Некая глобальная цель, которую можно назвать стремлением к счастью. Эдакая недостижимая морковка, которую сформировавшийся человек вешает себе перед носом. Конечная цель остается недостижимой всегда. Она слишком абстрактна и невыполнима. Зато ведущие к ней множество целей-морковок поменьше вполне достижимы и человек может считать, что они приближают его к счастью. Эти цели могут располагаться как прямолинейно от самых мелких, к все более крупным, так и хаотично. Соответственно и человек либо идет по жизни целенаправленно, либо всю жизнь так и мечется из стороны в сторону, не в состоянии определиться, чего на самом деле он хотел добиться. Непохожесть человека на всех остальных живых существ заключается в том, что глобальные цели у людей могут быть самые разные. Причем зачастую изначальные физиологические особенности человека влияют на его жизненные установки, крайне незначительно. Зато социальный аспект оказывает на эволюцию личности колоссальное влияние. Личность формируют получаемый жизненный опыт и круг общения. И уже эта личность с посредством интеллекта оказывает влияние на окружающий мир.
Сравним описанную структуру с примитивными понятиями об искусственном интеллекте, как о наборе правил. Возможно, ли с помощью правил не то чтобы эмулировать, а хотя бы симулировать интеллект? Симулировать, пожалуй, можно. Только можно ли сравнить симуляцию с оригиналом.
Идея кибернетической системы звучит очень просто и элегантно. Однако реализовать ее на практике необычайно сложно. Ведь как можно сформулировать цель человеческой жизни? Первые кибернетики начинали с простейших систем. Создавали кибернетических насекомых, занимающихся поисками еды – энергии. Или объединяли вместе живое с неживым. Например, в мозг мокрице или таракану вживлялись электроды, позволяющие ей мысленно управлять тележкой, на которой была закреплено насекомое. Повинуясь своим инстинктам, мокрица старалась забраться в наиболее мокрое место испытательного вольера, а таракан в самое темное.
Автопилот
Еще одной известной задачей, решенной кибернетикой является бортовой компьютер современных самолетов. Как известно летные качества современных больших транспортных и пассажирских самолетов настолько посредственны, что без постоянной корректировки траектории удержать их в воздухе человеку просто невозможно. Скорости реакции человека просто не хватает на того чтобы скорректировать все мельчайшие отклонения, которым подвергается в полете планер самолета. На помощь приходит робот, который повинуется только общим командам пилота, а сам непрерывно занимается удержанием самолета в воздухе.
К сожалению, вопрос о том, как описать для ИИ цель "быть человеком" на сегодняшний день остается открытым. Одной из романтических попыток были и остаются знаменитые три закона робототехники Айзека Азимова (http://ru.wikipedia.org/wiki/Три_закона_роботехники). Но даже эти общие формулировки настолько неоднозначны, что даже сам Айзек Азимов написал десятки романов и рассказов на тему их противоречия друг другу, не говоря о его многочисленных последователях. Самый простой случай несоблюдения законов – ложь во благо. Например, врачебная тайна. Случай, когда врач не считает возможным рассказать больному правду о его здоровье, предполагая, что это усугубит его страдания. Как бы то ни было законы являются всего лишь абстрактными рамками допустимого поведения. Они ни в коей мере не отвечают на вопрос о том, как стать человеком.
На практике большинство роботов не имеют искусственного нителлекта вовсе. Даже самый совершенный робот в мире – ASIMO от Honda (http://ru.wikipedia.org/wiki/ASIMO) до сих пор всего лишь жалкий читер. Лет пять назад, когда он только учился подниматься по ступеням, он умел подниматься только по одной единственной лестнице, геометрическую модель которой ему заранее загружали в память. Несколько лет назад его, наконец, научили сканировать лестницу и строить е геометрическую модель самостоятельно. С тех пор никаких вестей о новых прорывах в его создании не поступало.
Asimo
Так на что же способны сегодняшние технологии? В первую очередь стоит огромное громадное количество алгоритмов, по которым множество машин выполняют для нас самые различные действия. Но как мы понимаем назвать это интеллектом еще нельзя.
И если заменить человека полностью машины не могут, то они по крайней мере могут создать эффект его присутствия. Обмануть наблюдателя. В первую очередь это программы-собеседники. С некоторыми из них даже можно вести осмысленную беседу. Помню, как пробовал такие вещицы еще в институте. Находится им и практическое применение. Например, еще несколько лет назад мобильные операторы начали предлагать знакомства и переписку по SMS. Чаще всего с доверчивым абонентом общалась не одинокая девушка, а простейший бот с ограниченным набором фраз. Сама ограниченность формата не позволяла быстро выявить обман и возможно некоторая часть клиентов так и не догадалась, что общается с простым скриптом. В далекой перспективе объединяя такие технологии с технологиями синтеза речи, рендеринга в реальном времени и практической бихейвористикой, позволяющей подбирать нужные интонации, манеры и жесты, мы можем получить виртуального актера, внешне не отличимого от человека. За ярким фасадом такой куклы по-прежнему нет ничего. Пустота, которую можно наполнить любым желаемым смыслом. Заменив трехмерную модель на материального робота, мы получим пресловутого терминатор, не правда ли?
Lawful good
Высочайшая способность человека к адаптации способна сыграть с ним самим жестокую шутку. Ведь если снабдить ИИ достаточно подробными сведениями о мимике, жестах, нормах поведения, человек может и обмануться. Увидеть личность там, где ее нет и быть не может. А если добавить сюда присущую человеку, как и любому примату, способность к самообучению через копирование действий окружающих? Симуляция становится еще более точной.
И тут, в конце концов, возникает еще одна немаловажный вопрос. Как сделать подобие человека хорошим, наделенным доброй волей. Даже используемый в военных целях инструмент особенно ценится, когда различает своих и чужих. Что уж говорить об остальных областях применения. Ведь ИИ даже недостаточно быть настолько же добропорядочным как обычному человеку. Его добропорядочность должны приближаться к человек идеальному. Ведь к ИИ неприменимо понятие преступная халатность. Он должен принимать не просто самые очевидные, а самые верные решения.
Если ограничивать волю личности, в лучшем случае можно получить послушного раба. Однако, как учит история, результат рабского труд в большинстве случаев уступает результату работы свободного человека.
Любимая страшилка, связанная с ИИ как раз и заключается в предположении, что научить машину удастся. Но вот как она, в конце концов, станет относиться к своему творцу - большой вопрос. Самый очевидный ответ - полное избавление от такого ненадежного и непредсказуемого элемента как человек. Если кто-то думает что подобная мысль сможет прийти на ум только машине, хочу напомнить как еще Мао Цзэдун высказывался по поводу ядерной войны в том духе, что даже если большая часть человечества погибнет, оставшихся в живых китайцев будет все равно достаточно, чтобы построить коммунизм и, во всяком случае, гораздо больше чем выживших капиталистов.
Может и стоило бы закончить этот пост на оптимистической ноте. Но я этого делать не буду. Вместо это закончу его предупреждением. Не стоит пытаться разглядеть личность там, где ее нет. Как бы ни были милы и симпатичных игрушки – живыми они быть не могут. И еще. даже сломанная игрушка бывает опасной. Какая же в таком случае может исходить опасность от системы, контролирующей жизненно важные для нашего с вами выживания объекты.
T-1000
Помните золотые слова из книги по когда-то самому перспективному языку для моделирования искусственного интеллекта прологу. Не помню точной формулировки, но звучало это примерно следующим образом.
Правильно сформулированное условие еще не гарантирует получение верного решения.
Tags: pc, кино, книги
Subscribe

  • Дюна, не битва за Арракис

    Харконены пришли - грабют. Артрейдерсы пришли - грабют. Вонючему арабу куда податься? Наконец Дюну слили и я по прежнему не понимаю по чему это…

  • Фантастическая осень и возвращение блудного Diablo

    Какое прямо совпадение! И фильм про группу Дюна и экранизация Основания в одном и том же году и в одно и то же время! Дюну еще не смотрел, но…

  • Главное игровое событие года?

    Тут внезапно на днях показали анонс очередной реинкарнации Jagged Alliance. На этот раз "точно-точно настоящее продолжение", а не все вот это вот. Из…

promo live13 may 11, 2014 17:58 46
Buy for 50 tokens
Примерно неделю назад я писал, что заинтересовался этой online-книжкой http://gameprogrammingpatterns.com/ и решил сделать ее перевод. Сам я мог бы ограничиться и английским вариантом, но думаю многим перевод пригодится. В прошлом я уже занимался переводом книг. Не как основной работой. Так,…
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments