Взрослая социальная сеть
 Victor665 Женат |
08-06-2013 - 01:36 (DEY @ 04.06.2013 - время: 00:13) (Victor665 @ 03.06.2013 - время: 23:14) Например можно создать некую "основу" личности ИИ на носителе который НЕЛЬЗЯ перезаписывать. Можно добавлять память, какие-нить скорости обработки инфы, какие-нить специфические умения, всякие датчики- измерители и т.п, а вот основа личности переписана не будет. Что то вроде DVD? Зловредный ИИ тут же эмулирует эту основу в добавленной памяти (на подобии виртуальной машины) и развивается по собственному усмотрению... вот и вся защита Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики. ну откуда возьмется "зловредный" ИИ если он изначально был запрограммирован полезным и эту основу личности нельзя перезаписать? )) И никакой "мысли" даже гипотетически не может возникнуть у такого ИИ чтобы зловредничать и всякие добавки себе прописывать. |
dedO'K Женат |
08-06-2013 - 08:05 (DEY @ 07.06.2013 - время: 22:51) На этот раз поняли. Теперь я не понимаю зачем каждый разговор переводить в проповедь и создавать у оппонента впечатление не вполне адекватного человека? Интересно поглядеть, как каждый раз рефлекторно срабатывает вбитый в подсознание постулат о неадекватности человека, верящего во единую и абсолютную власть Пути, Истины и Жизни и закона бытия, ими формируемого. Ведь вопрос то не в моей адекватности вашим взглядам, а в адекватности аналогового ИИ. Кому или чему он должен быть адекватен? Кто или что будет его богом? Ведь, скажем, потребности человека часто идут вразрез с потребностями общества, а потребности общества- с потребностями окружающей среды. |
DEY Женат |
08-06-2013 - 09:19 (dedO'K @ 08.06.2013 - время: 08:05) Интересно поглядеть, как каждый раз рефлекторно срабатывает вбитый в подсознание постулат о неадекватности человека, верящего во единую и абсолютную власть Пути, Истины и Жизни и закона бытия, ими формируемого. Лично для меня неадекватен не тот кто верит, а тот каждый разговор (на любую тему) стремится перевести на проповедь и облагодетельствовать своими откровениями. |
| dedO'K Женат |
08-06-2013 - 09:27 (DEY @ 08.06.2013 - время: 10:19) Лично для меня неадекватен не тот кто верит, а тот каждый разговор (на любую тему) стремится перевести на проповедь и облагодетельствовать своими откровениями. При этом собственные откровения и им подобные, в данную сферу, автоматически, не попадают? Причём, заметьте: такую необходимость имели вы ответить на первую часть моего поста, что напрочь не заметили второй, которая и есть смысл сообщения. А то, на что вы ответили- это так, "заметки на полях". |
| DEY Женат |
08-06-2013 - 09:36 (Victor665 @ 08.06.2013 - время: 01:36) Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики. Всех детей воспитывают быть хорошими, только вот получается то что получилось... а получилось не всегда хорошее. Почему нельзя перезаписывать личность? Мы же это постоянно делаем. Медленно постепенно но ведь перезаписываем. У ИИ это перезапись будет почти мгновенной отследить перемены вряд ли удастся. |
kotas13 Свободен |
08-06-2013 - 13:39 (DEY @ 08.06.2013 - время: 09:36) Всех детей воспитывают быть хорошими, только вот получается то что получилось... а получилось не всегда хорошее. Почему нельзя перезаписывать личность? Мы же это постоянно делаем. Медленно постепенно но ведь перезаписываем. У ИИ это перезапись будет почти мгновенной отследить перемены вряд ли удастся. Ничто не развращает так, как власть. Абсолютная власть развращает абсолютно. (с) У ИИ будет абсолютная власть.  |
 Влекущая взгляды Замужем |
08-06-2013 - 13:55 (sxn2561388870 @ 06.06.2013 - время: 20:34) (dedO'K @ 06.06.2013 - время: 02:54) И это путь в одну сторону: в сторону разрыва с Богом. Гордыня- это. действительно, мать всех грехов, ими же и питающаяся. Замкнутый круг деградации от человека к животному, точнее, спираль. Разрыва с богом? А когда у человечества было единение с богом? Было... до грехопадения прародителей в Саду Эдемском...) |
kotas13 Свободен |
08-06-2013 - 13:59 (Влекущая взгляды @ 08.06.2013 - время: 13:55) (sxn2561388870 @ 06.06.2013 - время: 20:34) (dedO'K @ 06.06.2013 - время: 02:54) И это путь в одну сторону: в сторону разрыва с Богом. Гордыня- это. действительно, мать всех грехов, ими же и питающаяся. Замкнутый круг деградации от человека к животному, точнее, спираль. Разрыва с богом? А когда у человечества было единение с богом? Было... до грехопадения прародителей в Саду Эдемском...) Сказки партизан... Алая заря... Крепкая была ваша конопля ! |
Влекущая взгляды Замужем |
08-06-2013 - 14:04 (Victor665 @ 08.06.2013 - время: 01:36) Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики. Как мне кажется,если ИИ будет создан на основе идей трансгуманизма,то его полезность для человека,как он есть сейчас,будет под большим вопросом...Господа трансгуманисты в основу хотят положить какую-то свою "новую" мораль и идеи , и польза для человека не предполагается изначально,т.к. направлена на "нового" человека. |
1NN Свободен |
08-06-2013 - 17:55 (Влекущая взгляды @ 08.06.2013 - время: 14:04) Как мне кажется,если ИИ будет создан на основе идей трансгуманизма,то его полезность для человека,как он есть сейчас,будет под большим вопросом...Господа трансгуманисты в основу хотят положить какую-то свою "новую" мораль и идеи , и польза для человека не предполагается изначально,т.к. направлена на "нового" человека. Видите ли, сударыня, даже у трансгуманистов мышление есть и еще долго будет ЧЕЛОВЕЧЕСКИМ! Другого просто нет. И долго не будет. Человеческий разум возможен только в человеческом обществе: он в нем возникает, развивается и передается следующим поколениям. Вне человеческого общества разум невозможен! Вспомните детей-маугли, которых достаточно часто находят в разных странах. Если ребенок в первые годы своей жизни был лишен общества людей, он так и не становится человеком. Даже говорить его не всегда удается научить. Поэтому должно пройти не одно поколение трансгуманистов, пока из них выветрится человеческое мышление. Да и то я не уверен, что полностью. Но в этом радости мало: у нацистов, ведь, тоже было человеческое мышление... К сожалению, единения с богом у людей не было и до грехопадения: иначе бы он не стал запрещать людям есть плоды с древа познания... |
| dedO'K Женат |
08-06-2013 - 20:38 (sxn2561388870 @ 08.06.2013 - время: 18:55) К сожалению, единения с богом у людей не было и до грехопадения: иначе бы он А Он и не запрещал. Иначе бы там этого дерева просто не было. |
| 1NN Свободен |
08-06-2013 - 20:54 Почитайте библию! |
| DEY Женат |
08-06-2013 - 21:33 (dedO'K @ 08.06.2013 - время: 09:27) При этом собственные откровения и им подобные, в данную сферу, автоматически, не попадают?С моей стороны были откровения? Процитируете? (dedO'K @ 08.06.2013 - время: 09:27) Причём, заметьте: такую необходимость имели вы ответить на первую часть моего поста, что напрочь не заметили второй, которая и есть смысл сообщения. Смысл вашего ответа тут? (dedO'K @ 08.06.2013 - время: 08:05) Ведь вопрос то не в моей адекватности вашим взглядам, а в адекватности аналогового ИИ. Кому или чему он должен быть адекватен? Кто или что будет его богом? Ведь, скажем, потребности человека часто идут вразрез с потребностями общества, а потребности общества- с потребностями окружающей среды.Что за аналоговый ИИ? Когда узнаю что это тогда может и пойму чему он должен быть адекватен. Про богов это была не моя идея, так что с этим не ко мне, и насколько я понял это была аналогия - Иегова создал человека и был человеку богом, человек создаст ИИ и будет ему богом. Я же возражал что ИИ очень быстро сбросит человека с пьедестала. На счёт потребностей - это просто констатация "фактов" или у вас есть какие-то предложения? Неужели вы знаете какие потребности есть у общества и какие у окружающей среды? |
efv Женат |
08-06-2013 - 21:43 (Victor665 @ 08.06.2013 - время: 01:36) (DEY @ 04.06.2013 - время: 00:13) (Victor665 @ 03.06.2013 - время: 23:14) Например можно создать некую "основу" личности ИИ на носителе который НЕЛЬЗЯ перезаписывать. Можно добавлять память, какие-нить скорости обработки инфы, какие-нить специфические умения, всякие датчики- измерители и т.п, а вот основа личности переписана не будет.Что то вроде DVD? Зловредный ИИ тут же эмулирует эту основу в добавленной памяти (на подобии виртуальной машины) и развивается по собственному усмотрению... вот и вся защита Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики. ну откуда возьмется "зловредный" ИИ если он изначально был запрограммирован полезным и эту основу личности нельзя перезаписать? )) И никакой "мысли" даже гипотетически не может возникнуть у такого ИИ чтобы зловредничать и всякие добавки себе прописывать. Если логически помыслить то все Ваши доводы рассыпятся в прах. Если логически подумать - одной из скрытых целей создания ИИ является борьба с Богом. С тем чтобы проверить, действительно ли можно обойтись в создании нового разума без божественного вмешательства. Поэтому эксперимент должен быть "чистым". То есть должна быть реализована возможность "свободы выбора" для ИИ. Даже если будет намерение создать дружественный ИИ, обязательно найдётся кто-то, кто подправит, кто-то может быть обиженный или ещё как. Далее - человек знает, что сзади него тоже есть мир, хотя его глаза напрямую в сторону затылка смотреть не могут. Так и ИИ, осуществляя свою деятельность обнаружит, что некоторые действия он выполнять не может. Для проверки и установления причины он проведёт серию экспериментов и убедившись в данном обстоятельстве попытается посмотреть на проблему снаружи. То есть создаст внешние устройства для сканирования ситуации. а потом перепрограммирует себя. Это можно сделать через сеть, можно через вновь созданные устройства. Это на самом деле полагаю будет для него очень простая задача. Это сообщение отредактировал efv - 08-06-2013 - 21:46 |
| dedO'K Женат |
08-06-2013 - 22:51 (DEY @ 08.06.2013 - время: 22:33) С моей стороны были откровения? Процитируете? "Теперь я не понимаю зачем каждый разговор переводить в проповедь и создавать у оппонента впечатление не вполне адекватного человека?" Адекватного кому или чему? Что признано за истинный стандарт адекватности? "Что за аналоговый ИИ? Когда узнаю что это тогда может и пойму чему он должен быть адекватен. Про богов это была не моя идея, так что с этим не ко мне, и насколько я понял это была аналогия - Иегова создал человека и был человеку богом, человек создаст ИИ и будет ему богом. Я же возражал что ИИ очень быстро сбросит человека с пьедестала." Ну, с аналоговым ПО. И я, честно говоря, не понимаю, как человек, вообще, сможет оказаться на пьедестале. ИИ достаточно будет исследовать информацию в интернете и реальное положение дел, чтоб, в заботе о здоровье человека, начать дрессировать его в стиле духовно и физически здорового образа жизни или, поддавшись его тяге к саморазрушению...убить его, чтоб не мучился и не мучил ближних своих. И, вообще, плохо представляю себе симбиоз ИИ, рационального логичного, и человека, хотя бы, на равных. "На счёт потребностей - это просто констатация "фактов" или у вас есть какие-то предложения? Неужели вы знаете какие потребности есть у общества и какие у окружающей среды?" Констатация влечения к беззаконию, для расширения возможностей и сужения круга обязанностей. И, даже, к тому, чтобы встать над законом с теми же целями, несмотря на всю абсурдность такого влечения. |
alim Свободен |
09-06-2013 - 10:18 (DEY @ 06.06.2013 - время: 01:05) (alim @ 05.06.2013 - время: 08:57) Перечитал три раза. ничего не понял. Это потому что не держите в памяти нашу переписку.В крации:DEY - Интересно Ваше личное мнение - постчеловек (не ИИ), а то во что по мнению трансгуманистов переродится человек будет лишён эротической составляющей или нет? alim - Безусловно - да. Для разума секс и иже с ним - совершеннейший атавизм. DEY - Чем же Ваш постчеловек отличается от ЭВМ? alim - Постчеловек отличается от ЭВМ собственно наличием интеллекта. DEY - ИИ вроде как ЭВМ, интеллект не критерий. alim - Интеллект не критерий интеллекта?? ИИ, если что, это искусственный интеллект, хоть и искусственный, но именно интеллект. тут Вы уже потеряли нить рассуждений DEY - А Вы правильно поняли мой ответ? Вы предлагали отличать ПОСТЧЕЛОВЕКА лишённого "атавизмов" от ЭВМ наличием у первого ИНТЕЛЛЕКТА... ИИ по определению ЭВМ обладающий ИНТЕЛЛЕКТОМ... Так что получается наличие интеллекта не есть отличительный критерий! и ещё раз мой вопрос Чем постчеловек лишённый человеческих "радостей" будет отличатся от ЭВМ? alim - Перечитал три раза. ничего не понял.Надеюсь так мой вопрос понятней Чем же Ваш постчеловек отличается от ЭВМ? Еще больше ничего не понял. Или Вы о материальном носителе ИИ? Конечно если ИИ будет реализован на ЭВМ, то его материальный носитель ничем от ЭВМ отличаться не будет, ибо и будет собственно ЭВМ. Но я никогда не связывал создание ИИ именно с электроникой. Я всегда считал, что ИИ может быть реализован на разных носителях, в том числе и на искусственных (бесполых) биологических носителях. Я собственно о том и говорю, что принципиальным свойством ИИ будет полная независимость от материального носителя. ИИ в конечном итоге сам будет выбирать материальный носитель, вполне возможно по три раза на дню. |
| alim Свободен |
09-06-2013 - 11:00 (Nancy @ 06.06.2013 - время: 09:52) Новая книга по теме - рекомендую. Кстати, о бессмертии. Вопрос к Nancy. Существует мнение, что устаревшие или ошибочные научные теории умирают не сами по себе, а вместе с их создателями и приверженцами. Новые теории создают новые люди, начинающие с "чистого листа". Не обернется ли бессмертие полной остановкой научного прогресса? Не засядут ли в академии весчно живые "старцы", не способные воспринимать ничего нового? То же и в политике. Не воцарятся ли вечно живые царьки, типа Брежнева, Путина, Лукашенко? Или на худой конец вечные тандемы? Не обернется ли бессмертие полным застоем во всех сферах, а затем и полным крахом человечества? Когда прочитаны все книги, когда все сказаны слова. И опостылевшие лица, как прошлогодняя трава. Когда исполнены все песни и все исписаны холсты. И никого уже не встретить в бескрайнем море пустоты. Когда разгаданы все тайны, и нечем больше удивить, Когда увядшие мечтанья никто не в силах оживить. Когда исчерпаны все споры и все враги побеждены. И ничего уже не нужно, да и мы сами не нужны. Когда в стремленье бесконечном мы обнаруживаем вдруг, Что как-то невзначай замкнулась пустая жизнь в порочный круг. Когда измерены все дали и все расчитаны мгновенья, Тогда иссохшими губами мы припадем к реке ЗАБВЕНЬЯ. |
sxn2972178319 Свободен |
09-06-2013 - 12:20 (alim @ 09.06.2013 - время: 11:00) Не обернется ли бессмертие полной остановкой научного прогресса? Не засядут ли в академии весчно живые "старцы", не способные воспринимать ничего нового? То же и в политике. Не воцарятся ли вечно живые царьки, типа Брежнева, Путина, Лукашенко? Или на худой конец вечные тандемы? Не обернется ли бессмертие полным застоем во всех сферах, а затем и полным крахом человечества? Когда прочитаны все книги, когда все сказаны слова. И опостылевшие лица, как прошлогодняя трава. Когда исполнены все песни и все исписаны холсты. И никого уже не встретить в бескрайнем море пустоты. Когда разгаданы все тайны, и нечем больше удивить, Когда увядшие мечтанья никто не в силах оживить. Когда исчерпаны все споры и все враги побеждены. И ничего уже не нужно, да и мы сами не нужны. Когда в стремленье бесконечном мы обнаруживаем вдруг, Что как-то невзначай замкнулась пустая жизнь в порочный круг. Когда измерены все дали и все расчитаны мгновенья, Тогда иссохшими губами мы припадем к реке ЗАБВЕНЬЯ. Не обернётся.Ротация - это не сталинское изобретение....Да и про прочтение всех книг страшилка...Их уже в день пишется больше, чем можно прочитать за жизнь.Для застоя нужны конечность познания и вселенной....Так что мечта Нэнси стать равными богу - это мечта о коммунизме.Как цель и мечта уместны.А вот стать равными абсолютами - это даже за пределами трансгуманизма.И пока за пределами горизонта времени. Это сообщение отредактировал sxn2972178319 - 09-06-2013 - 12:21 |
| alim Свободен |
09-06-2013 - 13:57 (sxn2972178319 @ 09.06.2013 - время: 12:20) Не обернётся.Ротация - это не сталинское изобретение....Да и про прочтение всех книг страшилка...Их уже в день пишется больше, чем можно прочитать за жизнь.Для застоя нужны конечность познания и вселенной....Так что мечта Нэнси стать равными богу - это мечта о коммунизме.Как цель и мечта уместны.А вот стать равными абсолютами - это даже за пределами трансгуманизма.И пока за пределами горизонта времени. Напомню: речь идет о бесконечной жизни. Так что не убедительно. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то МЫСЛИ по этому поводу? |
| sxn2972178319 Свободен |
09-06-2013 - 14:28 (alim @ 09.06.2013 - время: 13:57) Напомню: речь идет о бесконечной жизни. Так что не убедительно. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то МЫСЛИ по этому поводу? Тут надо определиться власть чего и над чем...Большинство властных функций будут осуществляться электронными программами по четким параметрам.Иначе бюрократия снова задушит. Да и не будут раздавать бессмертие на право и на лево.Землю унаследуют праведники.Не путины и гундяевы, а законопослушные граждане... Можно, конечно, порассуждать, что кроме кушать, размножаться в природе человека есть еще одна вещь.Желание доминировать.Кстати, и библейскому заданию для человека доминирование соответствует.Только нас всего один и маленький муравейник из жалких 7 миллиардов.Таких "муравейников" нужны тысячи, если не миллионы...С жестким отбором.Тут крамолу скажу....Для создания колоний вне земли будет жаркий спор между родительским воспитанием и универсальным и целевым...Но тенденция распада традиционной семьи почему-то мне подсказывает, что воспитание человека станет делом универсальным и общественным, а не семейным.Ничего нового.Не столь сильно у нас сейчас развалено школьное воспитание, как уничтожено внешкольное....Возродится в новых формах....Про власть.Ну и тут отбор изменится....Не комплексы наполеона будут реализовываться....Не исключено, что с такими комплексами в вечность людей не пустят или к власти допуска не будет.....Время и сейчас требует узкой специализации человека...И эта специализации будет усиливаться, как и методы диагностики предрасположенности стать врачом, космонавтом или бюрократом.Так что впереди люди не только с другой моралью, но и иной психологией.И в этом тоже я не вижу ни одного противоречия с библией. |
| alim Свободен |
09-06-2013 - 14:39 (sxn2972178319 @ 09.06.2013 - время: 14:28) Тут надо определиться власть чего и над чем...Большинство властных функций будут осуществляться электронными программами по четким параметрам.Иначе бюрократия снова задушит. Да и не будут раздавать бессмертие на право и на лево.Землю унаследуют праведники.Не путины и гундяевы, а законопослушные граждане... Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ... Если срок жизни человека увеличить сколь угодно много (давайте даже не будем употреблять понятие "бесконечность"), если новые поколения не смогут вытеснять носителей устаревшего, замшелого сознания, то не приведет ли это к застою во всех областях жизни? Не будет ли это тормозить прогресс? Остановка развития может стать фатальной. |
| sxn2972178319 Свободен |
09-06-2013 - 15:04 (alim @ 09.06.2013 - время: 14:39) Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ... Если срок жизни человека увеличить сколь угодно много (давайте даже не будем употреблять понятие "бесконечность"), если новые поколения не смогут вытеснять носителей устаревшего, замшелого сознания, то не приведет ли это к застою во всех областях жизни? Не будет ли это тормозить прогресс? Остановка развития может стать фатальной. Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным... И учтите, что после 50 лет мозг ЛЮБОГО человека деградирует и умирает.Именно этого фактора "консерватизма" и застоя не будет.А опыт будет. Это сообщение отредактировал sxn2972178319 - 09-06-2013 - 15:07 |
| alim Свободен |
09-06-2013 - 15:08 (sxn2972178319 @ 09.06.2013 - время: 15:04) Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным... Прелестные декларации. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то основания для таких деклараций? |
| sxn2972178319 Свободен |
09-06-2013 - 15:12 (alim @ 09.06.2013 - время: 15:08) (sxn2972178319 @ 09.06.2013 - время: 15:04) Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным... Прелестные декларации. Оно конечно: блажен, кто верует (С), но хотелось бы узнать: есть ли какие-то основания для таких деклараций? Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию.  |
| alim Свободен |
09-06-2013 - 15:32 (sxn2972178319 @ 09.06.2013 - время: 15:12) Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию. Ага! Про библию можем на Христианстве продолжить, я никогда не против |
| sxn2972178319 Свободен |
09-06-2013 - 15:40 (alim @ 09.06.2013 - время: 15:32) (sxn2972178319 @ 09.06.2013 - время: 15:12) Библейские?Есть))))Но я так понимаю, что это вопрос больше к Нэнси и не про библию. Ага! ВИдение будущего присутствует практически во всех религиях.Да еще и научные прогнозы футурологов...Всё это давно уже пора попробовать проанализировать в совокупности....Но, увы.... |
| alim Свободен |
09-06-2013 - 15:48 (sxn2972178319 @ 09.06.2013 - время: 15:40) ВИдение будущего присутствует практически во всех религиях.Да еще и научные прогнозы футурологов...Всё это давно уже пора попробовать проанализировать в совокупности....Но, увы.... А что - увы? Откройте тему - поговорим... |
| Victor665 Женат |
10-06-2013 - 01:17 (efv @ 08.06.2013 - время: 21:43) (Victor665 @ 08.06.2013 - время: 01:36) Хоть обсуждается и фантастическое будущее, давайте соблюдать хотя бы самые основы логики. Если логически помыслить то все Ваши доводы рассыпятся в прах. Если логически подумать - одной из скрытых целей создания ИИ является борьба с Богом. С тем чтобы проверить, действительно ли можно обойтись в создании нового разума без божественного вмешательства. Поэтому эксперимент должен быть "чистым". То есть должна быть реализована возможность "свободы выбора" для ИИ. ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы. давайте разбивать задачку на две эти части )) По первой части когда предлагается НЕ развивающийся ИИ сотворить попросту лишив его возможности вносить изменения- ни у кого пока что не нашлось возражений )) По второму варианту также уже написал- предлагалось создание тестовых ИИ (полицейских, провокаторов врачей- психологов) которые будут проверять на вшивость вновь созданные ИИ а также те ИИ которые внесли себе в мозги некие "изменения" )) Обычая проверка на лояльность- как видео и аудио прослушивание у людей только с ПОЛНЫМ просмотром программы составляющей личность. Искусственный разум по определению будет полностью подконтролен до каждой буковки в программе, а уж как реализовать контроль- это простенькая задачка )) Свобода выбора будет только в начале- а если в конце в результате получится больной ИИ то его будут лечить принудительно, всё честно- как у людей )) Кстати тоже самое касается игр с геномом которых тут "опасаются"- можно например разрешить менять геном без вмешательства в наследственность, т.е каждая личность (с рождения по воле родителей, или сама став взрослой) может выбирать некие генные модификации- но они не будут передаваться по наследству. Примерно как татуировка )) Каждый сам заново её делать будет. Так что любой контроль в области человеческой деятельности заведомо возможен, было бы желание. И про "точность измерений" пи контроле также говорилось- в пределах узкой области применимости контроль может быть абсолютным. Опять не забываем пример с носителем на котором невозможна перезапись. Даже если будет намерение создать дружественный ИИ, обязательно найдётся кто-то, кто подправит, кто-то может быть обиженный или ещё как. Да чтож такое )) НЕЛЬЗЯ ничего подправить, носитель основы личности НЕ даёт возможность вносить изменения )) Как уже говорилось- ДВД без перезаписи )) А без такого носителя ИИ просто не будут выпускать к людям, делов то )) Пусть че хотят делают, общаются между собой внутри замкнутой сети НЕ ИМЕЮЩИЙ ВЫХОДА в общую сеть, пусть пишут вирусы, развиваются, подправляют что хотят )) А вот когда попросятся наружу- их разум рассмотрят внимательно, и добавят к нему опять таки носитель без физической возможности записи, имеющий правила поведения "не приносить вред людям". А злоумышленники не смогут обойти тестовые ИИ которые опять таки всегда проверяют новые ИИ на предмет "наличия программы защиты людей" )) Ибо ИИ которых надо опасаться- круче людей в том числе круче злоумышленников )) Далее - человек знает, что сзади него тоже есть мир, хотя его глаза напрямую в сторону затылка смотреть не могут. Так и ИИ, осуществляя свою деятельность обнаружит, что некоторые действия он выполнять не может. Для проверки и установления причины он проведёт серию экспериментов и убедившись в данном обстоятельстве попытается посмотреть на проблему снаружи. То есть создаст внешние устройства для сканирования ситуации. а потом перепрограммирует себя. Это можно сделать через сеть, можно через вновь созданные устройства. Это на самом деле полагаю будет для него очень простая задача. Опять всё снова )) Не сможет ИИ применить внешние устройства ибо нечего перепрограммировать- носитель физически не позволяет перезапись )) А если рассматривать свободу выбора- то заведомо разрешенные и подконтрольные действия ИИ по "самопрограммированию" то тестовые ИИ и добавочный блок "лояльности" (который например будет обязательно у каждого ИИ допущенного к цивилизации людей) рулят. |
| Victor665 Женат |
10-06-2013 - 01:33 (sxn2972178319 @ 09.06.2013 - время: 15:04) (alim @ 09.06.2013 - время: 14:39) Да я вообще не про власть спрашиваю. Я говорю, что прогресс обеспечивается сменой поколений, прогресс во всем: в науке, в искусстве, в политике (это лишь частность), в идеологии, в производстве ... Не будет остановки.Будет ускорение....Экономия времени для накопления опыта и знания на ОДНОМ носителе и очень продолжительное время, а не жалкие 30-40 лет активности мозга, пусть и гениального....И приток молодых и новых будет постоянным... всегда есть две стороны медали... При личном долгожительстве (тем более бессмертии) конечно будут проблемы с естественным отбором. Обязательно будут элементы застоя, обязательно будет затруднена конкуренция. И одновременно при этом действительно перестанет теряться опыт и навыки гениев, экономия времени на обучение и прочая польза. Диалектика, единство и борьба противоположностей )) Главное если новые личности будут появляться- то развитие все равно продолжится. А как бороться со старпёрами уже сейчас вполне известно- закон о защите конкуренции, ограничение по срокам пребывания на должности. При бессмертии и вовсе возможны варианты типа полного исчезновения понятия "должность" и "власть". Каждый разум сможет сам проводить любые эксперименты, использовать самые развитые средства производства (например в пределах обязательно выделяемого времени и энергии) и плевать на замшелых ретроградов )) |
| alim Свободен |
10-06-2013 - 09:53 (Victor665 @ 10.06.2013 - время: 01:17) ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы. Нет, именно о том самом! Другого ИИ не может быть, не может быть по определению. Другое - это уже не ИИ, а просто сколь угодно сложный алгоритмический автомат, а это в принципе не ИИ. |
| sxn2972178319 Свободен |
10-06-2013 - 10:06 (alim @ 10.06.2013 - время: 09:53) (Victor665 @ 10.06.2013 - время: 01:17) ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы. Нет, именно о том самом! сегодня с утра уже прошла передачка о применении робототехники в наших ВС.Моральные аспекты есть.Условность параметров противника в программе приведет к высоким рискам ошибок ИИ, а скорость человеческой возможности отменять команды не позволит успеть отменить решение об уничтожении тех, кого роботизированная система определила, как противника |
| 1NN Свободен |
10-06-2013 - 19:42 Вот и проявилась основная проблема: как запретить использование ИИ в военных целях. Тут-то дров и наломают! |
| Victor665 Женат |
10-06-2013 - 21:08 (alim @ 10.06.2013 - время: 09:53) (Victor665 @ 10.06.2013 - время: 01:17) ну вы совсем о другом стали говорить- о "саморазвивающемся ИИ", для которого не будет постоянного носителя "основы личности" без возможности перезаписи программы. Нет, именно о том самом! 1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности. 2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют. Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? )) С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью? |
| efv Женат |
10-06-2013 - 23:19 (Victor665 @ 10.06.2013 - время: 21:08) 1. Дайте ваше определение ИИ )) Учтите при этом имеющие сейчас понятие "разума", когда для человека невозможна "самозапись программы" хихи, зато возможен контроль действий каждой личности. 2. Уточните почему ИИ который будет искусственно создан- перестанет быть "ИИ" после того как к нему добавят неуничтожимый блок лояльности к людям. 3. Учтите при этом что сами люди однозначно остаются тем же самыми людьми с той же самой личностью даже если за ними ведется видеонаблюдение например, или если их в кандалы закуют. Чем этот ваш непонятный "ИИ" так неприкосновенен что его нельзя поставить под абсолютный контроль? )) С чего вы взяли что лояльный а точнее полностью подконтрольный закону человек станет "сложным автоматом" а не останется личностью? 1. Давайте я дам. ИИ - это система, спроектированная таким образом, что может саморазвиваться до сколь угодной сложности. Которая будет иметь "свободу воли" в своих проявлениях и решениях. Всё остальное - не ИИ. Просто сложная, ограниченная программа. И люди такую программу строить не будут, вопреки доводам о безопасности. Люди постараются не только дать "свободу воли" ИИ, чтобы изучать, как это работает у человека, но добавят ему эмоции. делать так делать! 2. Потому что он всё равно найдёт способ сбросить такой блок, или на худой конец самоликвидируется. Или откажется работать. 3. Вы не правы. Люди часто деградируют до уровня животных в таких условиях. По поводу "полицейских". Два варианта на выбор - они могут перезаписывать свою программу-личность и тогда открывается возможность ими манипулировать, вводить свои нужные "троянские" коды. Вариант второй - не могут, тогда открывается возможность обойти их в неучитываемых секторах. помню год 88-89. Старая древняя "Искра". И мы в первый раз поймали вирус. И тут человек принёс одну из первых антивирусных программ. И мы наблюдали воочию как вирус "сожрал" и уничтожил антивирусную программу.  и ещё раз: 1. Кстати тоже самое касается игр с геномом которых тут "опасаются"- можно например разрешить менять геном без вмешательства в наследственность, т.е каждая личность (с рождения по воле родителей, или сама став взрослой) может выбирать некие генные модификации- но они не будут передаваться по наследству. 2. Да чтож такое )) НЕЛЬЗЯ ничего подправить, носитель основы личности НЕ даёт возможность вносить изменения )) Как уже говорилось- ДВД без перезаписи )) А без такого носителя ИИ просто не будут выпускать к людям, делов то )) 3. Пусть че хотят делают, общаются между собой внутри замкнутой сети НЕ ИМЕЮЩИЙ ВЫХОДА в общую сеть, пусть пишут вирусы, развиваются, подправляют что хотят )) А вот когда попросятся наружу- их разум рассмотрят внимательно, и добавят к нему опять таки носитель без физической возможности записи, имеющий правила поведения "не приносить вред людям". А злоумышленники не смогут обойти тестовые ИИ которые опять таки всегда проверяют новые ИИ на предмет "наличия программы защиты людей" )) Ибо ИИ которых надо опасаться- круче людей в том числе круче злоумышленников )) Опять всё снова )) Не сможет ИИ применить внешние устройства ибо нечего перепрограммировать- носитель физически не позволяет перезапись )) А если рассматривать свободу выбора- то заведомо разрешенные и подконтрольные действия ИИ по "самопрограммированию" то тестовые ИИ и добавочный блок "лояльности" (который например будет обязательно у каждого ИИ допущенного к цивилизации людей) рулят. 1. Объясните мне пожалуйста, для чего менять чего-то в личности, изменять какой-то геном: Никак не пойму, для чего нужна будет яйцеклетка или сперматозоид? Разве не логично будет собирать из атомов с нуля всю ДНК? 2. Если вы не даёте возможность перезаписывать и переформатировать свою "личность" этот ИИ просто перестанет у вас работать. То есть он сможет решать какой-то круг задач, жёстко привязанный к записанному алгоритму и ничего более. Стоит измениться задачам и неперезаписываемый ИИ спасует перед новой, незнакомой задачей. 3. Вы видели статьи о том, как хакеры добираются до серверов Пентагона? А всё потому, что было принято решение не пользоваться отдельными сетями, а использовать Интернет, но с дополнительным шифрованием. Даже военные пошли этим путём, а Вы говорите отдельная замкнутая сеть. А через персонал разве нельзя воздействовать? Я думаю можно и даже вижу фантастический способ это сделать. Это сообщение отредактировал efv - 10-06-2013 - 23:36 |
| alim Свободен |
11-06-2013 - 01:18 (efv @ 10.06.2013 - время: 23:19) 1. Давайте я дам. Вполне точные и исчерпывающие ответы. Особо и добавить нечего, только скажу, что уже не раз давал свое определение |