астрономия Новости космоса

[cartesius]

6 minutes ago, Тико said:

Но даже при этом трудно представить, чтобы он стал человеку врагом - мы же не враги животным, от которых произошли...

Спроси об этом обезьян, над которыми мы проводим антигуманные эксперименты, держим в зоопарках и планомерно уничтожаем естественную среду их обитания. Ничего личного, просто бизнес.

[Тико]

Что есть то есть, но как вид в целом они нам не враги. Мы держим их в зоопарках для развлечения (надеюсь этот варварский обычай со временем отомрет - раньше не было канала Animal Planet и Discovery), вынужденно ставим на них опыты в интересах науки и медицины, но не стремимся к их уничтожению и порабощению.

[cartesius]

7 minutes ago, Тико said:

Что есть то есть, но как вид в целом они нам не враги. Мы держим их в зоопарках для развлечения (надеюсь этот варварский обычай со временем отомрет - раньше не было канала Animal Planet и Discovery), вынужденно ставим на них опыты в интересах науки и медицины, но не стремимся к их уничтожению и порабощению.

От этого им не легче. А вот что сверхразум захочет или не захочет сделать с людьми, остается только гадать. Может использовать их в качестве рабов для построения еще более развитых структур для распространения сверхразума? Или построения армии роботов, более эффективно строящих и использующих ресурсы для распространения сверхразума. И оставит ли он людям на Земле достаточно места и ресурсов? 

Мы можем об этом догадываться не больше, чем обезьяны знают о намерениях людей. В общем, не зря франшиза Терминатора бьет все рекорды проката. Вопросы, которые там ставятся, становятся все более актуальными. Из новейших рассмотрений это же темы, фильм Ex Machina и сериал Westworld.

Изменено 22 февраля 2017 пользователем cartesius (история изменений)

[Bondi]

35 минут назад, Тико сказал:

Что есть то есть, но как вид в целом они нам не враги. Мы держим их в зоопарках для развлечения (надеюсь этот варварский обычай со временем отомрет - раньше не было канала Animal Planet и Discovery), вынужденно ставим на них опыты в интересах науки и медицины, но не стремимся к их уничтожению и порабощению.

Не хотел бы я чтобы ИИ обращался с нами так, как люди обращаются с животными.

[Тико]

30 минут назад, Bondi сказал:

Не хотел бы я чтобы ИИ обращался с нами так, как люди обращаются с животными.

Иначе никак, если ИИ достигнет уровня сверхразума (относительно нас). Опять же это не значит, что людей пересажают в клетки - это может быть от мягкой отеческой заботы (с предотвращением нашего взаимного истребления) до невмешательства.

[Тико]

52 минуты назад, cartesius сказал:

От этого им не легче. А вот что сверхразум захочет или не захочет сделать с людьми, остается только гадать. Может использовать их в качестве рабов для построения еще более развитых структур для распространения сверхразума? Или построения армии роботов, более эффективно строящих и использующих ресурсы для распространения сверхразума. И оставит ли он людям на Земле достаточно места и ресурсов? 

Мы можем об этом догадываться не больше, чем обезьяны знают о намерениях людей. В общем, не зря франшиза Терминатора бьет все рекорды проката. Вопросы, которые там ставятся, становятся все более актуальными. Из новейших рассмотрений это же темы, фильм Ex Machina и сериал Westworld.

Кино конечно не аргумент - с тем же успехом когда-то тиражировалась идея о вторжении злобных инопланетян. Человек как производительная сила ничтожен - уже сейчас на заводах работают в основном роботы, участие человека в производственном процессе в основном умственное - что будет неактуальным в условиях появления человекоподобного ИИ.

Другое дело ресурсы - тут казалось бы может возникнуть вопрос приоритетов. Например, человека будут интересовать вопросы самоуничтожения (ВПК) и самолечения (медицина), к которым будет равнодушен ИИ. Но на мой взгляд это опять шаблон из фантастики. Человекоподобный ИИ по сути ничем не будет отличаться от человеческого ребенка. Как разумная система он будет восприимчив к обучению, но обучать его будут люди - в соответствии с собственной системой этики. А разве наши дети противопоставляют себя родителям, грезят об их порабощении, мечтают завладеть их имуществом? Мутанты конечно встречаются, но к счастью это исключение. В интеллектуальном и этическом отношении ИИ - плоть от плоти человека, который будет со снисходительной нежностью смотреть на своих дряхлых и глупых родителей.

Но это лишь в случае разделения людей и систем ИИ на две отдельные "расы". Я все же склоняюсь к мысли, что эти "расы" сольются, и технологическая эволюция человека станет продолжением биологической.

P.S. Прошу модераторов по возможности перенести оффтоп в более подходящую тему.

[cartesius]

10 hours ago, Тико said:

В интеллектуальном и этическом отношении ИИ - плоть от плоти человека, который будет со снисходительной нежностью смотреть на своих дряхлых и глупых родителей.

В том-то и дело, что нет. ИИ не обучается: в его распоряжении вся накопленная человечеством информация, насколько он ею может манипулировать - вопрос мощности его процессоров и оперативной памяти (а она гигантская). Более того, скорее всего его развитие происходит с экспоненциальным ускорением. Поэтому, мысль, высказанная в Терминаторе мысль, что Скайнету понадобилась доля секунды, чтобы решить судьбу человечества, отнюдь не безосновательна. 

ИИ - разум нечеловеческий. Будет ли ему дело до людей и насколько, захочет ли он использовать или решит уничтожить как люди в свое время уничтожили волков и медведей (или тех же горилл, наших близких родственников по эволюции) в местах своего обитания (просто, чтобы не мешали) - остается только гадать.

Другое дело, может ли машина, построенная человеком, в принципе обрести сознание, или же для этого необходима субстанция, находящаяся вне рамок приема и обработки информации. Думаю, в ближайшие 20 лет, мы это узнаем. 

Изменено 23 февраля 2017 пользователем cartesius (история изменений)

[cartesius]

Кстати, кино всегда держит руку на пульсе мыслей и страхов большинства людей. Если вспомнить кинофантастику последних лет (не считая комиксов для подростков), то она в основном об отвоевании планеты у людей: со стороны инопланетян, обезьян, искусственного разума, а также о деградации человечества. 

[Тико]

43 минуты назад, cartesius сказал:

ИИ - разум нечеловеческий.

Очень спорное утверждение. В основе нынешней концепции ИИ лежит обучение человеком: каким воспитаешь - таким и станет, как ребенок. А в фантастике интеллект обучается сам собой. Со временем - да, как и взрослый человек. Но изначально это обучение является внешним. Причем даже самостоятельное обучение будет происходить на базе человеческих знаний и этических представлений. Превосходящий человека ИИ будет по сути тем же человеком, но только из будущего. Это как если бы Эйнштейн попал в каменный век.

Это если говорить о человекоподобном интеллекте - поведение т.н. сверхразума предсказать невозможно. В случае, если слияния человека со сверхразумом не произойдет, мы для него будем даже не как обезьяны, а как одноклеточные, от которых он когда-то произошел. А в нашем представлении созданный человечеством сверхразум превратится в бога и растворится в природе.

[Ara55]

1 час назад, Тико сказал:

Очень спорное утверждение. В основе нынешней концепции ИИ лежит обучение человеком: каким воспитаешь - таким и станет, как ребенок. А в фантастике интеллект обучается сам собой. Со временем - да, как и взрослый человек. Но изначально это обучение является внешним. Причем даже самостоятельное обучение будет происходить на базе человеческих знаний и этических представлений. Превосходящий человека ИИ будет по сути тем же человеком, но только из будущего. Это как если бы Эйнштейн попал в каменный век.

Это если говорить о человекоподобном интеллекте - поведение т.н. сверхразума предсказать невозможно. В случае, если слияния человека со сверхразумом не произойдет, мы для него будем даже не как обезьяны, а как одноклеточные, от которых он когда-то произошел. А в нашем представлении созданный человечеством сверхразум превратится в бога и растворится в природе.

На самом деле помимо способности самообучения есть еще человеческая способность к творчеству.

Из бесконечного числа действий человек выбирает или необходимое или то что "понравилось".

С необходимым почти ясно, а вот предпочтения - темный лес, выход из которого я вижу в смысле жизни (у данного индивида).

И здесь опять приходим к вопросу "какой смысл жизни у ИИ?".

[Тико]

Я противник концепции свободы воли у человека. Все, что в нас есть, предопределено независящими от нас факторами - биологической природой и средой (воспитанием, образованием и т.д.) В этом смысле человекоподобный ИИ мало чем будет отличаться от человека. Как человек, в зависимости от обучения (среда) и аппаратно-программной архитектуры ("биологическая природа") он будет определенным образом усваивать и осмысливать человеческие этические нормы, знания, культуру и т.д. Уже сейчас ИИ по силам написание картин и сочинение музыки в заданном стиле на заданный сюжет. Тогда как например осмысление текста пока еще непосильная для него задача. Когда будет решена и эта проблема, следующей задачей будет формирование у ИИ самоидентификации - посредством его оснащениями органами чувств или их имитации. Это очень интересный вопрос, потому что все наши ощущения в конечном счете - это сигналы в мозг. Поэтому теоретически в ИИ можно запрограммировать (как нас самих программировала природа на протяжении миллиардов лет эволюции) и развить физические и психологические ощущения - боль, страх, удовольствие, любовь, ненависть и т.д. И наконец собственное ощущение "свободы воли", которое проявится в т.ч. и в самостоятельном творчестве.

ИМХО это неизбежно, если развитие ИИ пойдет именно по пути копирования биологического мозга (нейросети). Но точно так же как копирование птиц не является лучшим способом для полетов, не факт что копирование мозга является лучшим способом создания ИИ. Хотя с точки зрения его предсказуемости такой способ пожалуй предпочтительнее. 

8 минут назад, Ara55 сказал:

И здесь опять приходим к вопросу "какой смысл жизни у ИИ?".

А какой смысл жизни у человека? 

[Ara55]

1 минуту назад, Тико сказал:

Я противник концепции свободы воли у человека. Все, что в нас есть, предопределено независящими от нас факторами - биологической природой и средой (воспитанием, образованием и т.д.) В этом смысле человекоподобный ИИ мало чем будет отличаться от человека. Как человек, в зависимости от обучения (среда) и аппаратно-программной архитектуры ("биологическая природа") он будет определенным образом усваивать и осмысливать человеческие этические нормы, знания, культуру и т.д. Уже сейчас ИИ по силам написание картин и сочинение музыки в заданном стиле на заданный сюжет. Тогда как например осмысление текста пока еще непосильная для него задача. Когда будет решена и эта проблема, следующей задачей будет формирование у ИИ самоидентификации - посредством его оснащениями органами чувств или их имитации. Это очень интересный вопрос, потому что все наши ощущения в конечном счете - это сигналы в мозг. Поэтому теоретически в ИИ можно запрограммировать (как нас самих программировала природа на протяжении миллиардов лет эволюции) и развить физические и психологические ощущения - боль, страх, удовольствие, любовь, ненависть и т.д. И наконец собственное ощущение "свободы воли", которое проявится в т.ч. и в самостоятельном творчестве.

ИМХО это неизбежно, если развитие ИИ пойдет именно по пути копирования биологического мозга (нейросети). Но точно так же как копирование птиц не является лучшим способом для полетов, не факт что копирование мозга является лучшим способом создания ИИ. Хотя с точки зрения его предсказуемости такой способ пожалуй предпочтительнее. 

А какой смысл жизни у человека? 

Твой вопрос в конце сделал бессмысленными все предыдущие размышления )))

На самом деле надо начинать именно с ответа на вопрос в чем смысл жизни живого, а затем переходить к неживому ИИ.

[Тико]

Только что, Ara55 сказал:

Твой вопрос в конце сделал бессмысленными все предыдущие размышления )))

Не вижу связи.

Только что, Ara55 сказал:

На самом деле надо начинать именно с ответа на вопрос в чем смысл жизни живого, а затем переходить к неживому ИИ.

Ответ на этот вопрос не может быть универсальным - у каждого человека он свой, при этом большинство людей вообще не видят в жизни никакого смысла. Не в том смысле, что хотят умереть (хотя к сожалению и такое бывает), а в том, что просто не знают смысла своего существования. В большинстве случаев это происходит из-за непреодолимого конфликта между желаниями и возможностями, а в особо тяжелых (и возможно более распространенных) случаях - из-за неведения относительно своих истинных желаний. Причем даже осознание этих желаний не делает их собственными (см. выше про свободу воли) - они навязаны извне. "Пожрать от пуза"©, купить новый айфон или автомобиль, сделать карьеру, защитить родину, родить ребенка, узнать тайны Вселенной - все это продукт все тех же среды и биологической природы, независящих от человека.

В любом случае это вопрос философский и глобально неразрешимый, тогда как создание неживого ИИ - вполне насущная задача. Как по практическим, так и по чисто научным соображениям.

[Ara55]

19 минут назад, Тико сказал:

Не вижу связи.

Ответ на этот вопрос не может быть универсальным - у каждого человека он свой, при этом большинство людей вообще не видят в жизни никакого смысла. Не в том смысле, что хотят умереть (хотя к сожалению и такое бывает), а в том, что просто не знают смысла своего существования. В большинстве случаев это происходит из-за непреодолимого конфликта между желаниями и возможностями, а в особо тяжелых (и возможно более распространенных) случаях - из-за неведения относительно своих истинных желаний. Причем даже осознание этих желаний не делает их собственными (см. выше про свободу воли) - они навязаны извне. "Пожрать от пуза"©, купить новый айфон или автомобиль, сделать карьеру, защитить родину, родить ребенка, узнать тайны Вселенной - все это продукт все тех же среды и биологической природы, независящих от человека.

В любом случае это вопрос философский и глобально неразрешимый, тогда как создание неживого ИИ - вполне насущная задача. Как по практическим, так и по чисто научным соображениям.

Видишь ли у каждого человека может быть свое мнение и о законе Ньютона, но от этого он не перестает быть однозначным.

Так вот , с научной точки зрения смысл жизни в поддержании жизни своего вида.

Только не надо уходить в сторону размышлениями на тему слова "смысл"(типа кто кроме человека способен осмыслить) . Понятное дело, что здесь имеется ввиду цель, для которой (в конечном счете) и длится жизнь отдельной особи, с тем или иным успехом.

[Тико]

2 минуты назад, Ara55 сказал:

с научной точки зрения смысл жизни в поддержании жизни своего вида

Что за наука такая - биология? Ну тогда люди не думали бы ни о чем, кроме еды со спариванием. Человек конечно животное, но животное разумное. Или, как мудро заметил декан Свифт, "восприимчивое к разуму".