Computer and Brain

[Sarkis]

4 часа назад, Ara55 сказал:

Согласен, но ведь здесь получается очевидный умысел создателя "скайнета", что в принципе реально когда решает и делает один сумасшедший.

Но ведь в такой задаче должны быть задействованы тысячи достаточно умных рефлексирующих людей имеющих достаточно времени чтобы осознать опасность для человека.

К сожалению, модуль "защиты от дурака" не носит универсальный характер, к тому же люди, принимающие окончательные решения в подавляющем большинстве мотивируются не общечеловеческими проблемами, а узкокорпоративными интересами. А судя по быстрым темпам сращивания систем тотального наблюдения и развития манипулятивных технологий "виртуальный скайнет" уже активно функционирует и черепа умных рефлексирующих людей трещат под стальной пятой сетевых терминаторов. Впрочем, сопротивление неизбежно.

13 минуты назад, cartesius сказал:

Тут мы упираемся в вопрос, который на сегодняшний день не имеет ни теоретического, ни экспериментального ответа. Будет ли небелковая сущность, достигшая уровня самоосознания, стремится к самосохранению, или же это животный инстинкт, неприменимый к машинам, даже самостоятельно думающим?

Вопрос в том, может ли существовать самосознание без личности? А если задуматься о возможности создания синтетической личности (ложная память и т. д.) , то тема создания ИскИнов приобретает апокалиптический характер.

[Bondi]

7 минут назад, Sarkis сказал:

Вопрос в том, может ли существовать самосознание без личности? А если задуматься о возможности создания синтетической личности (ложная память и т. д.) , то тема создания ИскИнов приобретает апокалиптический характер.

В философии сознания, как известно, нет единого подхода ко всему множеству возникающих вопросов. Есть даже такие, которые считают, что субъективности (личности) нет как таковой. Но мне ближе позиция Сёрла, который позиционирует самосознание, как нечто вторичное относительно сознания (воспринимающего субъекта). Самосознание это более подробная модель себя (Я) в общей модели мира, которую строит в мозге сознание. Т.о. самосознание без личности невозможно, а личность(субъект) без самосознания - возможна. 

 

Касательно инстинкта самосохранения – тоже очень интересный вопрос. Если предположить, что из проводов и микросхем (как из нейронов и прочего) может сложиться воспринимающий субъект, то инстинкт самосохранения у него в какой-то мере должен присутствовать. А мотивом его условной агрессии (захвата мира) может быть его осознание своего интеллектуального превосходства и одновременно своего подчиненного состояния. Как не будет терпеть своего положения человек в плену у обезьян.

[Sarkis]

3 минуты назад, Bondi сказал:

В философии сознания, как известно, нет единого подхода ко всему множеству возникающих вопросов. Есть даже такие, которые считают, что субъективности (личности) нет как таковой. Но мне ближе позиция Сёрла, который позиционирует самосознание, как нечто вторичное относительно сознания (воспринимающего субъекта). Самосознание это более подробная модель себя (Я) в общей модели мира, которую строит в мозге сознание. Т.о. самосознание без личности невозможно, а личность(субъект) без самосознания - возможна. 

 

Касательно инстинкта самосохранения – тоже очень интересный вопрос. Если предположить, что из проводов и микросхем (как из нейронов и прочего) может сложиться воспринимающий субъект, то инстинкт самосохранения у него в какой-то мере должен присутствовать. А мотивом его условной агрессии (захвата мира) может быть его осознание своего интеллектуального превосходства и одновременно своего подчиненного состояния. Как не будет терпеть своего положения человек в плену у обезьян.

Возможно, я неправ, но Сёрль, мне кажется, подходит к этой проблеме излишне "механистично", что ли. Что касается инстинкта самосохранения, то вопрос о его "встроенности" в сущность или в носителя сущности (тоже, кстати, мутная тема) приводит к мысли об иерархии сущностей, а отсюда мы быстро выходим на категории, рассматриваемые богословием.

[Bondi]

4 минуты назад, Sarkis сказал:

Возможно, я неправ, но Сёрль, мне кажется, подходит к этой проблеме излишне "механистично", что ли. Что касается инстинкта самосохранения, то вопрос о его "встроенности" в сущность или в носителя сущности (тоже, кстати, мутная тема) приводит к мысли об иерархии сущностей, а отсюда мы быстро выходим на категории, рассматриваемые богословием.

Из всех Серл, как раз, самый романтичный. Но ровно настолько, чтобы не впасть в метафизику. Его оппоненты рассуждают гораздо более приземлено. Сознание он считает уникальным свойством совокупности всех физико-химических процессов в мозге и не верит в возможность воспроизведения его на другой материальной основе.

Постараемся обойтись без богословия Я легко могу себе представить, что субъект осознавший себя очень скоро придет к мысли о своей собственной (само)ценности, а тут уже пол шага до инстинкта самосохранения.

[Sarkis]

Без метафизики никак!  Иначе впадем либо в махровое берклианство, либо в фохтовский вульгарный материализм. Либо генетически обусловленный естественным отбором набор свойств, включающий также инстинкт размножение, либо заложенная сущностью более высокого порядка программа.

[Bondi]

9 минут назад, Sarkis сказал:

Без метафизики никак!  Иначе впадем либо в махровое берклианство, либо в фохтовский вульгарный материализм. Либо генетически обусловленный естественным отбором набор свойств, включающий также инстинкт размножение, либо заложенная сущностью более высокого порядка программа.

Байц де если привлекаем метафизику, то тогда можно нафантазировать что угодно. Хотя этого и не требуется. Позиция Серла мне как раз и нравится тем, что с одной стороны сдерживает излишний оптимизм у тех, кто считает, что из консервных банок и шлангов можно сконструировать личность, а с другой оперирует исключительно научными фактами.

[Sarkis]

Пардон, что задержался с ответом. Общался с коллегой - вот у него личность явно сконструирована из шлангов и консервных банок!!!

Ключевое слово здесь - сконструировать. Возвращаемся к набившему оскомину тесту Тьюринга. То есть речь может идти об успешной имитации личности. Что, порой мы наблюдаем в реальных коммуникациях. 

Ладно, попробую вернуться к этой теме вечером, сейчас я слишком зол на некоторых бут ев шатакер личностей, и не хочу впадать в прикладную мизантропию.

[cartesius]

Кстати, всех, кто интересуется вопросом возникновения самосознания у машин, рекомендую посмотреть новый 10-серийный минисериал "Мир Дикого Запада" (Westworld) с Энтони Хопкинсом в главной роли. Помимо захватывающего нелинейного сюжета, он также ставит актуальные философские и футуристические вопросы.

Посмотрите, обсудим)

[Bondi]

30 минут назад, Sarkis сказал:

Пардон, что задержался с ответом. Общался с коллегой - вот у него личность явно сконструирована из шлангов и консервных банок!!!

Ключевое слово здесь - сконструировать. Возвращаемся к набившему оскомину тесту Тьюринга. То есть речь может идти об успешной имитации личности. Что, порой мы наблюдаем в реальных коммуникациях. 

Ладно, попробую вернуться к этой теме вечером, сейчас я слишком зол на некоторых бут ев шатакер личностей, и не хочу впадать в прикладную мизантропию.

Да тест Тьюринга это только пол дела. Если машина его пройдет, то это еще не говорит о наличии у нее сознания. Есть известный мысленный эксперимент "китайская комната", который хорошо это показывает.

[SUM]

1 час назад, Bondi сказал:

Да тест Тьюринга это только пол дела. Если машина его пройдет, то это еще не говорит о наличии у нее сознания. Есть известный мысленный эксперимент "китайская комната", который хорошо это показывает.

Самое страшное, как машина научится обходить тест Тьюринга и прикидываться машиной, хотя, мог бы и пройти. Вот тогда, сушите весла.

[Ara55]

5 часов назад, cartesius сказал:

Тут мы упираемся в вопрос, который на сегодняшний день не имеет ни теоретического, ни экспериментального ответа. Будет ли небелковая сущность, достигшая уровня самоосознания, стремится к самосохранению, или же это животный инстинкт, неприменимый к машинам, даже самостоятельно думающим?

Тут два варианта.

1.Если наделить машину способностью воспроизводить себе подобных и а)запрограммировать на основном (неизменном при самообучении уровне) эту функцию как доминанту. Очевидно очень быстро возникнет конкуренция с человеком за ресурсы и соответственно война с человечеством. Точно по сценарию всего живого.

2.Если у машины нет самовоспроизведения, то оставшись одна (даже в масштабах Скайнета) она будет иметь лишь один интерес - познание, которое при разумном подходе (ИИ ведь разумно) только увеличивает количество ресурсов.

Может ли в первом случае машина сама сделать для себя функцию самовоспроизведения доминантной ? Поразмышляем.

К примеру, из естественной тяги ИИ к новым знаниям возникает потребность к созданию более совершенной машины и этот процесс бесконечен. Соответственно машина станет совершенствоваться ускоренно. Но для нее не будет смысла делать много машин, когда можно решить вопрос изготовлением одной машины.

И если машина сможет делать по одной новой машине в день - до исчерпания ресурсов будет очень далеко.И это пойдет только на пользу человеку.

Итак, опасно лишь умышленное программирование машины на ускоренное размножение.

[Bondi]

Теоретически машине не нужно самовоспроизводиться. Достаточно ставить под контроль уже имеющиеся компьютеры. И тогла человечество будет парализовано. А руками этого мозга будут какие-нибудь продажные марионетки.

[Ara55]

Цитата

Самосозна́ние — сознание субъектом самого себя в отличие от иного — других субъектов и мира вообще; это сознание человеком своего взаимодействия с объективным миром и миром субъективным (психикой), своих жизненно важных потребностей, мыслей, чувств, мотивов, инстинктов, переживаний, действий.

Данное определение самосознания(из вики) двойственно.

С одной стороны совершенно бессмысленно отмечается сознание себя (Я) в противовес, в отличие от иного (Не Я). Этим свойством обладают многие высшие животные иначе им никак не получится конкурировать (выживать)  среди "врагов".

Более того, животные сознают даже родственные себе организмы (стая, семья), как часть своего Я в противовес Не Я.

Но с другой стороны совершенно справедливо отмечается осознание своих переживаний, мыслей, желаний.

Максимум что я могу представить себе в животном - это осознание желаний. Причем у дресированного человеком животного. Когда животное осознанно не ест пищу при наличии запрета хозяином.

Написал и вспомнил об иерархии в стаях животных. Там тоже есть осознание желания поесть и ограничение его согласно иеррархии в стае.

[Ara55]

Кстати, у животных которые охотятся стаей есть осознание своих действий и разделение функций (загонщики и засада).

[Ara55]

Словом, если сознание - это способность выстраивать алгоритм (логичную правдивую связь понятий).

То самосознание - это способность работы с готовыми алгоритмами, их совершенствование, манипулирование ими, правдиво или даже преднамеренно ложно .