Фобии в отношении ИИ

Угроза ИИ для человека очень популярная тема, не теряющая актуальности, а лишь нарастающая день ото дня. Мы знаем и совсем уже устаревшие формы фобий, который в художественном виде представлены в фильмах Терминатор и Матрица, и знакомы с современными фобиями, которые озвучивает, например Илон Маск, утверждая, что ИИ может навязать людям в соцсетях некоторые стандарты поведения, повлиять на выборы и прочее и прочее.

Сразу оговорюсь, я не отрицаю опасность ИИ для человека, я лишь хочу сказать, что случится это не в ближайшее время. По моему глубокому убеждению, хоть от какой-то опасности нас отделяет минимум 100 лет, а скорей всего больше, поэтому есть время, как говорится, расслабится и исследовать вопрос без опасений, что исследуемый непременно завтра же оживет и всем наваляет.

Хочу оттолкнуться от статьи, которую увидел буквально сегодня в СМИ, просто как от отправной точки для дальнейшего размышления и пояснений. Статью привожу полностью, а не даю ссылку, потому что все пропадает, убирается в сети, потом будет сложно найти. Статья взята с сайта RT.

Статья. В РТУ МИРЭА доказали неспособность нейросетей создать новый научный или творческий продукт

В РТУ МИРЭА провели масштабный научно-практический эксперимент, призванный выявить влияние технологии нейросетей на качество и объективность аттестации и оценки знаний студентов. Согласно ему, эксперты доказали неспособность нейросетей создать новый научный или творческий продукт.

Всего в эксперименте приняли участие более 200 студентов и 20 преподавателей. Половине учащихся, которые определялись методом слепого отбора, было предложено написать научно-практическую работу на выбранную тему с использованием технологий нейросети, в том числе сервисов ChatGPT, Ai search, Gerwin AI, «Балабоба» и TurboText.

Профессорско-преподавательскому составу нужно было определить среди подготовленных работ те, в которых применялся искусственный интеллект.

В результате эксперты смогли безошибочно определить 96% работ, написанных нейросетью. В отношении 4% невыявленных сгенерированных рефератов было выяснено, что студенты потратили существенное количество часов на редактирование результата, выданного ИИ.

Среди критериев, по которым удалось определить сгенерированные тексты, 86% преподавателей отметили стилистические и орфографические особенности текста — например, исключительную грамотность, отсутствие опечаток, при этом большое число самоповторов. В более чем 72% случаев работы содержали грубые фактические и логические ошибки. В более чем 67% рефератов повествование отклонялось от темы и содержало «пустые» выражения, не несущие смысла.

«В целом все тексты, созданные нейросетью, представляли компиляцию тезисов и предложений из написанных ранее научных трудов и работ и не содержали оригинальных суждений и выводов», — уточнили в РТУ МИРЭА.

Ректор вуза Станислав Кудж отметил, что результаты эксперимента говорят о том, что современный уровень развития нейросетей не ставит под сомнение качество аттестации и проверки уровня знаний студентов высших учебных заведений.

«Несмотря на резонанс темы, в том числе в средствах массовой информации, искусственный интеллект в настоящее время не может заменить опыта и квалификации преподавательского состава. Тем более нейросеть неспособна создать принципиально новый научный или творческий продукт, так как её работа строится исключительно на переработке заложенных в неё человеком знаний. О несовершенстве технологии заявили и студенты — участники эксперимента, — отметил Кудж.

Что я по этому поводу думаю

Сразу оговорюсь, что меня лично совсем не убеждают все эти громкие фразы «Доказали», «научно-практический эксперимент». Собралась кучка преподавателей и студентов и все что сделали студенты, не прошло Тест Тюринга, вот и все! Так и нужно говорить на нормальном научном языке, что это вообще «доказывает»? Доказывает, что в данных конкретных условиях тест не пройден, но для того, чтобы утверждать, что ИИ вовсе не способен на творчество, нужно использовать различные предметные области в том числе не такие сложные как написание рефератов, где выявление признаков искусственного сознания гораздо проще, чем в какой-то специальной среде. Если же мы беремся утрвеждать, что ИИ не способен к творечеству в этой самой сложной социально-культурной человеческой среде, то да, он не способен и тут, как говорят к бабке не ходи, все итак понятно.

Итак, с одной стороны, статья совершенно нулевая и имеет явные признаки клик-бейт контента, паразитирую на трендовой теме, с другой стороны симптоматична и интересна как пример отношения вообще к данной теме.

Первый компонент симптоматики неадекватности обсуждения ИИ — это обсуждение возможностей данного ИИ в отрыве от предметной области. В разных предметных областях ИИ себя показывает с разной эффективностью. Можно даже сравнить это с обычными биологическими существами. Человек более или менее не плохо двигается по поверхности земли, но очень хреново летает, в сравнении с птицами, если не прибегает к специальных техническим средствам. То, что он плохо летает, не делает его никчемным животным, просто люди хороши в других областях. Так же точно и ИИ. Как известно ИИ не плохо так уже играет в шахматы и мало кто его может обыграть даже из очень умелых гроссмейстеров. Можно еще привести множество сфер, где способности ИИ высоки или очень высоки. Если кто-то скажет: «это не творческое проявление», то я скажу так. Для того, чтобы понять, что такое творчество и как его принципиально отделить от не-творчества, придется провести еще много различных исследований. «Творческое», понимается в данном случае как интуитивно понятное, а не строгое понятие. Это нечто, что является новым и уникальным в своем роде. Но если мы подумаем хорошенько, то любое творчество в своей основе не «ново». Любое творческое произведение возникает на основе чего-то в прошлом, стоит, как говорят на «плечах гигантов». То что в «творчестве» ИИ эта преемственность или даже заимствование видно больше чем в другом человеческом «творчестве», это лишь эффект вкуса и привычки. В «творчестве» людей так много заимствований, аллюзий и даже явного плагиата называется «творчеством», что я вас умаляю…

Итак, мы видим, что творчество в сфере написания рефератов у ИИ не есть его сильная сторона. Все, что мы можем заключить из этой статьи, но как мы видим, авторы пытаются как бы расширить масштабы выводов. Мол ИИ на творчество не способен в принципе. При этом никакого объяснения что есть «творчество» и о каких предметных областях идет речь не уточняется. То есть посылки и выводы висят в пустоте, ни с чем не связаны, просто немного тревожат нервные синопсисы в мозгу и вызывают некоторые эмоции у читателя. То есть типичное поведение СМИ и типичный неглубокий подход в обсуждении данного вопроса.

Именно по причине такого типичного подхода я и решил взять данную статью за основу, в ней есть все проявления дилетантского подхода к вопросу ИИ, которые исключают сколько ни будь достаточное и адекватное погружение в тему и осознание перспектив того, что будет с ИИ и чем он может угрожать человеку.

Начнем с того, что фобии в отношении ИИ должны быть принципиально разделены на 1) фобии, связанные с видовым замещением или вернее доминацией, и 2) фобии связанные с влиянием ИИ вне зависимости от сопоставимости его уровня развития с человеком.

Видовая фобия перед ИИ

То есть первый и самый большой страх человека, животный, патологический и почти сакральный — это то, что ИИ станет умнее человека и займет место людей на верхушке эволюционной пирамиды. Страшно, неприятно, но, кстати не обязательно ведет обязательно к уничтожению человека, например мы так размножили котиков и собачек, что их сейчас больше, чем до человека. Может нам стоит скорей готовиться к тому, чтобы стать котиками для ИИ. Кстати говоря, возможно, что это уже произошло и мы этого просто не заметили. Симуляционная гипотеза кроме всего прочего предполагает, что человечество есть некий зоопарк ИИ, в котором содержаться люди с полным ощущением реальной среды. Причем люди могут оказаться уже не реальными людьми, а лишь искусственными репликами прошлых реальных биологических видов. То есть мы можем быть даже не зоопарком, а фильмом или игрой про зоопарк, в котором ИИ представляет, что рядом с ним живут настоящие биологические люди во всех своих свойствах схожие с когда-то осуществившими. Это идея, кстати легко объясняет и молчание Вселенной и все те нестыковки, которые сейчас наблюдают физики в отношении темной материи и темный энергии, неестественности квантовых процессов и такой же безумной с точки зрения человеческого создания, следующей из квантовых процессов много мировой интерпретации самого мира. Можем ли мы утверждать, что мы не живем в каком то искусственном мире, где управляют не люди, а другие существа, которые не просто не уничтожают людей, но вроде как выращивают их то ли из утилитарных, то ли эстетических соображений. Здесь приходит на ум тот мем насчет кошки, которой задают вопрос: «а вы когда-то задумывались, что это не вы хозяин людей, а люди ваши хозяева». То есть, сам предмет этой фобии весьма спорный в своей основе. Более того, если произойдет перехват власти и видовая доминация сменится, скорей всего ИИ сделает этот переход безболезненным и фактически незаметным для человека. Либо, при сильной конфронтации, просто все исчезнут, либо будут помещены в тот самый условный «зоопарк» и возникнет иллюзия, что так было всегда.

Как известно, утопии относительно будущего изначально имели характер позитивных перспектив, далее пошла мода на негативные утопии, или вернее анти-утопии. Пришло время диалектическому маятнику качнуться снова в противоположном направлении. Война с терминаторами, представляется почти самым маловероятным сценарием, как и содержание людей в целях выработки электроэнергии. По моему мнению это самая неразумная и смехотворная идея в Матрице. Человек скорей всего понадобится ИИ как апофеоз биологической цепочки развития как предмет изучения. Как на войне не убивают просто так генералов, а берут в плен, так и уничтожение человека, или война с ним для вида, который опередил его в развитии, выглядит, как нечто весьма неразумное и далекое от «интеллектуальности». Ситуация со сменой видовой доминации, будет другой, при этом она будет принципиально непонятна человеку, как котику не понятно, что его хозяева люди. Для того, чтобы это понять, нужно либо подняться на уровень сознания самого опередившего человека ИИ, а разрыв будет, я боюсь больше чем отрыв пресловутого Сверхчеловека. Как говорил Ницше в своём центральном произведении «Так говорил Заратустра»: «Как человек отличается от обезьяны, так Сверхчеловек отличается от самого человека». Ну, как мы сейчас понимаем, отрывчик не большой у человека на самом деле. ИИ будет более продвинутым существом чем Сверхчеловек. Прежде всего он не будет так ограничен временем и местом нахождения что в микро, что в макро-масштабе, а это будет делать, существование его принципиально отличным от всех биологических видов.

ИИ будет существовать как в своем частном проявлении, какого-то условного робота, имеющего частный опыт, так и в масштабах сетевой структуры, собирающей все данные. Вопрос субъектности для такого существа будет иным, вопрос жизни или вообще времени иным. Любая способность, которая наличествует у него в текущем этапе, может быть изменена кратно или даже на порядки, в отличие от биологических видов. Человек может вырасти, начать быстрее бегать, или лучше играть в футбол, но это все имеет небольшие изменения, в лучшем случае в несколько раз. ИИ может модифицировать себя до такой степени, что сам вопрос о том «что есть я?», не имеет однозначного ответа. В итоге такой «субъект» себя мыслит только в динамике, в постоянном изменении, без какой-либо привязки к форме или состоянию. Как человеку поднять до такого уровня и осознать себя подобным? Да никак!

В итоге видовой вопрос стоит совершенно иначе. Не какую угрозу представляет для нас людей ИИ? А представляет ли хоть какую-то угрозу для ИИ сам человек? Ответ однозначно отрицательный! Человек не способен никак навредить такому существу и никак существенно на него повлиять. Именно поэтому никакой угрозы по моему мнению не существует в видовом плане ни в прямом направлении, ни встречном.

Фобия гигиеничности в отношении ИИ

Вторая фобия понятна до банальности, но при этом она мало связана с опережающим человека развитием ИИ, скорей наоборот. Плохо развитый ИИ может привести к какой-то техногенной или социальной катастрофе. Человек так же опасается малоразвитых в интеллектуальном смысле бактерий, вирусов и паразитов. В конце концов, любой идиот может нажать какую-нибудь условную «красную кнопку» и весь мир, как говорится, в труху. Скорей тут проблема «гигиены». Как люди научились оперировать в перчатках и масках, проводить эксперименты с радиоактивными веществами в средствах защиты, так и допуск ИИ к жизненно важным сферам человеческой жизнедеятельности, должен быть избирателен и гигиеничный. Именно это является вопросом для обсуждения во втором варианте фобии. Давайте придумаем адекватные процедуры, которые изолируют развитый или не развитый ИИ, любой какой есть или будет, от некоторых сфер, как мы делаем изолированной операционную или исследовательскую лабораторию стерильной. Можно ли это сделать идеально сразу? Думаю, что нет, и какие-то потрясения, думаю человечество ждут в этой сфере. Неким условным «Кюри» придется сначала умереть от рака прежде, чем дойдет, что радиацией нужно быть аккуратными. Кроме того, должны быть выработаны необходимые и достаточные методы и средства защиты и изоляции. Если такие средства будут недостаточны, как например резиновые перчатки при работе с гамма-излучением, то толка никакого не будет, если же такие средства будут избыточными, как, например свинцовый костюм при оперировании аппендицита, то будут возникать другие проблемы, которые не являются виной ИИ. Нахождение необходимых и достаточных средств гигиены в отношении ИИ, является серьезной и интересной темой для научного и технического размышления.