Нейросети: за и против.

Опасения по поводу ИИ не безосновательны — нейросети действительно могут выйти из-под контроля.
Об идее искусственного интеллекта, который свергнет человечество, говорили десятилетиями, а такие программы, как ChatGPT, только возобновили эти опасения. Мы не боимся только до тех пор, пока управляем и контролируем ИИ.

Но загвоздка в том, что для управления сверхразумом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы можем проанализировать. Но если мы не в состоянии это понять, создать такую симуляцию просто невозможно.

Будем ли мы управлять ИИ?

Такие правила, как «не причинять вреда людям», не могут быть установлены, если мы не понимаем, какие сценарии может придумать ИИ, предполагают ученые. Как только компьютерная система заработает на уровне, превышающем возможности наших программистов, мы больше не сможем устанавливать ограничения.

«Сверхразум ставит принципиально иную проблему, чем те, которые обычно изучаются под лозунгом "этики роботов"", - писали исследователи еще в 2021 году.

«Это потому, что сверхразум многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, которые потенциально непостижимы для людей, не говоря уже о том, что ими можно управлять».

Часть рассуждений команды исходит из проблемы остановки, выдвинутой Аланом Тьюрингом в 1936 году. Проблема заключается в том, чтобы знать, придет ли компьютерная программа к выводу и ответу (и остановится) или просто навечно зациклится, пытаясь его найти.

Как доказал Тьюринг, логически невозможно найти способ, который позволил бы нам узнать это для каждой потенциальной программы, которая когда-либо могла быть написана.

Это возвращает нас к ИИ, который в сверхразумном состоянии мог бы одновременно хранить в своей памяти все возможные компьютерные программы.

Например, любая программа, написанная для того, чтобы ИИ не причинил вреда людям и не разрушил мир, может прийти к какому–то выводу (и остановиться) или нет — в любом случае математически невозможно быть абсолютно уверенным, что такой сверхразум можно будет сдержать. Это означает, что контролировать его будет невозможно.

Альтернативой обучению ИИ некоторой этике и приказу ему не разрушать мир – в чем, по словам исследователей, ни один алгоритм не может быть абсолютно уверен, – является ограничение возможностей сверхразума. Например, он может быть отрезан от части Интернета или от определенных сетей.

Исследование 2021 года также отвергает эту идею, предполагая, что это ограничит возможности искусственного интеллекта – аргумент заключается в том, что если мы не собираемся использовать его для решения проблем, выходящих за рамки человеческих возможностей, то зачем его вообще создавать?

Если мы собираемся продвигаться вперед с искусственным интеллектом, мы можем даже не знать, когда появится неподконтрольный нам сверхразум, настолько он непостижим. Это означает, что нам нужно начать задавать некоторые серьезные вопросы о направлениях, в которых мы движемся."(с)

Источник: https://www.techinsider.ru/news/news-159962...det-nevozmojno/

"Ему не надо спать, он не устает, он не влюбляется и не разводится!
Он может работать 24/7.
Татьяна ЧЕРНИГОВСКАЯ уверена, что мы проиграем в битве с ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ.
Мы будем меньше использовать МОЗГ и ПАМЯТЬ.
У нас появился КОНКУРЕНТ.
Татьяна Владимировна опасается, что у НЕЙРОСЕТИ может быть и СОЗНАНИЕ.
Что нам делать? Как выжить?
И как завтра мы будем отличать правду от вымысла?
Настоящие фотографии и видео от изображений созданных ИИ?
Помните изображение папы римского Франциска в модном белом пуховике? Ведь, многие подумали, что это реальный ПАПА.

В общем, НЕЙРОСЕТЬ уже начинает менять нашу жизнь. О том, как выжить и отвоевать свое место под солнцем российский ученый в области нейронауки и психолингвистики Т.В. Черниговская - советская и российская учёная в области нейронауки и психолингвистики, а также теории сознания. Доктор биологических наук, доктор филологических наук, член-корреспондент РАО. Заслуженный деятель высшего образования и Заслуженный деятель науки РФ (2010). Профессор кафедры общего языкознания СПбГУ, заведующая лабораторией когнитивных исследований и кафедрой проблем конвергенции естественных и гуманитарных наук СПбГУ.

Содержание:

00:00:00 Анонс
00:01:23 Искусственный интеллект. Морфиус
00:01:36 Татьяна Черниговская
00:02:06 Нейронная сеть. Ее учили как учились мы
00:03:42 Нейронная сеть как личность
00:03:07 Она ела буквы
00:03:30 Чего опасаться
00:03:48 Угроза нейронной сети
00:04:09 Чат GPT
00:05:18 Они будут стремиться к нам
00:05:27 Интеллект
00:05:52 Гугл. Google
00:06:55 Память
00:07:32 Мозг
00:07:44 Мозгу должно быть сложно
00:09:16 Фейковые новости
00:10:27 Как отличить правду от вымысла
00:11:52 Естественный интеллект и искусственный интеллект
00:11:56 Ему не надо спать, он не устает, он не влюбляется, он не разводится!
00:13:55 Цивилизация праздности
00:14:38 Коллаборация искусственного интеллекта с естественным
00:14:46 Зачем ИИ с нами дружить?
00:15:34 Он работает с Big Data
00:16:09 Искусственный интеллект- имитация эмоций
00:17:42 Лекция Татьяны Черниговской в Московском институте психоанализа
00:17:56 Эркюль Пуаро, Мисс Марпл
00:18:02 Почему все не занимаются наукой
00:18:26 Причина следственной связи
00:19:06 Прецедентное право
00:19:48 Когнитивная наука
00:20:37 Как маленькие дети усваивают человеческий язык
00:23:38 Психические заболевания
00:23:57 Шизофрения
00:24:26 Что приводит к психическим расстройствам?
00:24:52 Депрессия
00:26:22 Маниакальное состояние
00:29:05 Как мыслили великие люди мира
00:31:00 Эффект эврика
00:32:03 Моцарт
00:32:49 Михаил Ломоносов
00:33:00 Нужно читать письма гениев
00:37:00 Винсент ван Гог
00:38:32 Как трактовать данные экспериментальных наук
00:39:49 Интеллектуалы
00:42:14 Юрий Лотман
00:44:13 Осип Эмильевич Мандельштам
00:47:34 Вербальный язык
00:48:25 Как оставаться энергичной
00:49:50 Риски."(с)

В этом смысле показателен пример Натальи Бехтеревой, которая 1975 году стала академиком АМН СССР (впоследствии РАМН), а 1981 году — академиком АН СССР. С 1990 года — научный руководитель Центра «Мозг» АН СССР, с 1992 года — Института мозга человека РАН, руководитель научной группы нейрофизиологии мышления, творчества и сознания, но при этом, её критиковали за лояльное отношение к мистике и, как утверждалось, в том числе со стороны Комиссии по борьбе с лженаукой РАН, некорректно поставленные эксперименты по проверке экстрасенсорных способностей. Н. П. Бехтерева полемизировала с этой критикой. Н. П. Бехтерева положительно отзывалась о некоторых концепциях, таких как гипотеза о происхождении человека от акродельфидов, кожное зрени и выступала за научное изучение феноменов Ванги и Кашпировского.

Гость нового выпуска - Андрей Себрант, директор по маркетингу сервисов «Яндекса». Обсудили все прорывы в создании искусственного интеллекта. Может у нейросетей появится сознание?
В чем важность машинного обучения? Заменят ли голосовые помощники родственников, а роботы - кассиров? И можно ли робота обучить этике?
Содержание:

00:00 тизер
01:25 гость Андрей Себрант
03:13 о важности машинного обучения
05:56 о прорыве в развитии нейросетей и голосовых помощников
12:02 о нейросетях в творчестве
14:02 может ли нейросеть написать хороший сценарий?
16:27 как нейросеть пишет статьи?
18:19 о кейсе Блейка Лемойна, которого уволили из Google
20:31 робот понимает юмор?
21:54 может у нейросетей появится сознание?
25:44 различие искусственного интеллекта и личности
28:42 робот может чувствовать?
30:57 о пользе голосовых помощников
32:40 о зависимости людей от технологий
35:27 о главных прорывах в использовании нейросетей
38:14 шахматы и нейтронные сети
40:18 о феномене NFT
45:18 о рисках управления искусственным интеллектом
50:21 можно ли робота обучить этике?
54:11 заключение."(с)