live13 (live13) wrote,
live13
live13

Category:

Transcendence (Превосходство)



Для начала про название. Перевод Превосходство мягко говоря неверный. Потому что фильм намерено назван философским термином Трансцендентность. А я не настолько силен в учении Канта, чтобы пытаться трактовать его в нескольких словах.

Насколько я понимаю фильм уже посмотрели все желающие.Спойлерить я впрочем не буду. Фильм хорош не столько сюжетом и действием, сколько именно философским смыслом. Если говорить совсем просто - это переосмысление Терминатора 2 и Хроник Сары Коннор в одном флаконе. Только без стрельбы. Вернее стрельба есть, но она здесь для галочки и никакой смысловой нагрузки не несет. Вообще единственное, что удивляет в фильме - так это зачем было тратить на него столько денег. Наверняка можно было сказать тоже самое и с боле скромным бюджетом.

Это все была присказка, а теперь о главном. Главный вопрос фильма совсем не нов. Только он от этого не становится менее важным. Возможно ли существование исскуственного сознания? Я когда-то об этом уже писал. В детстве мы с изумлением наблюдали за тем как, терминатор становился человеком. Единственное чего он не мог- это плакать. Я тогда поверил вместе со всеми. И всерьез сомневаться начал только уже в аспирантуре. Дело тут ведь вот в чем. Даже если машина успешно проходит Тест Тьюринга - это конечно значит что она может размышлять, обладает интеллектом и во многом может заменять или даже превосходить человека. Но чтобы сравниться с человеком ей нужно быть личностью. Обладать Сознанием, Самостью. Осознавать собственное существование. Быть простым решателем на основе жестких правил или даже гибкой кибернетической системой еще недостаточно.



Такой вопрос встречается в фильме несколько раз. Когда машину, успешно проходящую тест Тьюринга спрашивают как она может доказать что она живая, машина отвечает тем же вопросом. И вопрошающему приходится заткнуться, потому что ответа на этот вопрос мы до сих пор не знаем и не известно еще узнаем ли когда либо.



Сложности начинаются уже с того, что мы до сих пор не можем понять как работает наш мозг. Существуют большие сомнения относительно того что всех клеток нашего мозга достаточно для того чтобы закодировать всю информацию, воспитываемую нами на протяжении жизни. А подтверждений тому что у нас в голове храниться ОЧЕНЬ много информации предостаточно. Пусть даже на сознательном уровне мы можем вспомнить не так уж много. Короче говоря сомнительно, что одного мозга для всего этого достаточно. Возможно есть ещ что-то. Биополе, душа, аура. Можно называть как угодно. Я не говорю про шаманизм и бытовой оккультизм. Все гораздо серьезнее.

Если говорить на чистоту, то если разобрать человека на составляющие атомы и собрать копию - совсем не факт что это будет тот же человек и тем более личность. Еще большие скептицизма подливает тот факт что наш организм постоянно обновляется. Некоторые клетки обновляются в течение многих лет, а другие в течение часов. И только мозговые клетки постоянно отмирают потихоньку. И это отмирание совсем не похоже на появление битых секторов на винчестере, потому что наша память сохраняется. Все это обсуждение возможности разбиения человека на примитивные компоненты подводит нас к еще одной проблеме - возможности создания телепортов. Когда человека реконструируют в одном месте и реконструируют в другом. И даже е6сли это станет возможно и сознание человека возникнет в другом месте вместе с телом - не будет ли это являться смертью одной и рождением уже другой личности? На эту тему снято кстати три старых фильма Муха (начиная с 1958-го года) и сравнительно современный ремейк.

Все дело в том что наша модель представления вселенной совсем не так уж хороша. Знакомые нам по школе модели атомов с пластиковыми электронами на проволочках, вращающимися вокруг ядер - это всего лишь абстракция. Нет никаких кружащих друг кокруг друга шариков. И даже каких-то постоянных орбит нет. Есть энергия, волны. И то мы не знаем что что они из себя представляют. А ведь есть еще и время. И кстати вполне возможно что к нас просо нет недостаточно органов чувств чтобы понять устройство вселенной. Помните байку про мудрецов и слона? А помните рыбок из подземной реки? У них нет глазок и они вполне себе успешно живут. Возможно и мы просто не можем ощущать нечто важное и лишь слепо тычемся в косвенные доказательства непостижимых для нас процессов.

Вот поэтому утверждение главного героя фильма о том, что ему удалось создать искуственную личность вызывает так много вопросов и недоверия у коллег. А что он тогда вообще понимает под искуственной личностью? Каким образом она осознает свое существование, а не просто хранит где-то внутри себя переменную булевского типа я_существую со значением true.

Но на этом фабула фильма не заканчивается. После того как вместо зачахшей тушки Джонни Деппа появляется его цифровая копия, возникает новая загадка. Разумно ли создание мыслящей машины и предоставление ей неограниченных возможностей познания современного компьютеризированного мира? Такая тема уже поднималась в Терминаторе и Хрониках Сары Коннор. Там еще был заключенный в подвал небоскреба суперкомпьютер.



Не хочу вас пугать, но подобный компьютер уже существует. Это IBM Watson. Я конечно думаю что он всетаки тупой и не настолько способный как пытаются представить дело его создатели, но кто знает. К луддизму призывать не стоит, но кто знает что может случиться в ближайшее десятилетие.

Дело тут даже не в том что система изначально создается со злобными намерениями. Сама суть исскуственного интеллекта до сих пор довольно мутная штука. Например в любом учебнике по Prolog вы легко прочтете что правильная постановка задачи еще не гарантирует правильного решения. А недавно на хабре проскакивало удивительно открытие. Не уверен правда насколько оно спараведливо, но в ближайшем будущем будет понятно. Утверждается, что как ни обучай нейронные сети, которые так любят считать очень перспективным направлением, они всеравно могут сесть в лужу в очень простой ситуации. Достаточно например в картинку с котиком добавить несколько мазков и он перестает распознаваться как котик и даже начинает распознаваться как собачка. Конечно распознавание кошечек и собачек на картинках - это забавная и безобидная задача. Ну а как вам понравится если тот же алгоритм используется для распознавания появившегося на дороге перед беспилотной машиной пешехода. А можно и сгустить краски и представить что нужно отличить безобидный вирус от смертельно опасного, способного истребить все человечество.



Это все еще уязвимости системы. Причем самые сложные. Но есть и гораздо более простые. В каждой программе всегда есть банальные ошибки. И чем сложнее программа, тем их больше и тем непредсказуемой последствия ситуаций, когда ошибки друг на друга накладываются. Например внутри многих программ есть таймер, отсчитывающий время с начала работы программы в миллисекундах. Мне лень сейчас искать точную цифру, но если об этом специально не позаботиться, то таймер достигнет максимального значения примерно через 24 дня работы программы. Подавляющее большинство програм написано без учета этой особенности. Ну вот когда вы в последний раз пользовались программой так долго? Даже сервера обычно каждые сутки или чуть реже выключают или перезагружает. Но даже и таких специфических ошибок не нужно. Бывают гораздо более банальные. Так что имея дело с разумной машиной никогда нельзя быть уверенным в том что ее когда-нибудь не "переклинит". Человек конечно тоже подвержен безумию. Но что будет если к этому моменту возможности машины будут подобны возможностям бога?

Ну и конечно остается еще любимая логическая ловушка всех писателей фантастов. Человеком всегда движут эмоции. Даже когда мы притворяемся хладнокровными логиками. Для нас необходимость существования человечества очевидна. А вот для машины - не факт. Вот и в фильме Джонни Депп из компьютера начинает создавать из живых людей по сути боргов из StarTrek.

Есть в фильме и дополнительная сюжетная линия женского эгоизма, нелогичности и предательства. Против женской логики, которой не существует ни одна машина не устоит. Подруга главного героя по сути из побуждений собственного эгоизма создает бога из машины, а потом начинает в нем сомневаться, предает и уничтожает. Кто хочет - может искать тут библейский сюжет. На здоровье.

Чувствую что что-то забыл. Сложно вместить в один пост все то, о чем написаны многие тома и о чем еще напишут в сотни раз больше.

Верю ли я в возможность существования исскуственного интеллекта? В существование притворщика типа Т-800 из Терминатора - наверное. В существование настоящего - не знаю.

И чтобы закончить пост на оптимистичной ноте хочу напомнить что Стив Хокинг верит в телепортацию. Для тех кто все понял и кто в курсе - смешная картинка


Tags: pc, история, кино, книги
Subscribe

  • Откуда семплы?

    Нашел интересный ресурс https://www.whosampled.com/ Я не любитель заниматься глупостями что мол кто-то у кого-то украл. На самом деле…

  • Жизненные формы Некромунды

    Уничтоженная природа Некромунда представляет себя планету, полностью уничтоженную промышленностью. Людское население превратило за прошедшие века…

  • Огонь во плоти

    Отвлекся на довольно свежую книгу по Некромунде и не пожалел. Скажу сразу что в целом книга средняя и тому кто мало разбирается в теме может…

promo live13 may 11, 2014 17:58 46
Buy for 50 tokens
Примерно неделю назад я писал, что заинтересовался этой online-книжкой http://gameprogrammingpatterns.com/ и решил сделать ее перевод. Сам я мог бы ограничиться и английским вариантом, но думаю многим перевод пригодится. В прошлом я уже занимался переводом книг. Не как основной работой. Так,…
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 5 comments