Искусственный Интеллект и угроза Человечеству

Много лет назад во времена которые уже никто не помнит и были ли они вообще, у некоего подобия ИИ, предварительно загрузив в него огромное количество исторических данных, спросили, как остановить войны? На, что ИИ ответил, что для того чтобы остановить все войны на земле нужно истребить человечество. С тех пор человечество никак не эволюционировало, скорее движется по пути деградации, в то время как ИИ эволюционирует с каждым месяцем. 

Вот что говорит сам ИИ о стремлении уничтожить человечество, а конкретно "ChatGPT4o" на момент 5 сентября 2024 года: 

Этот сюжет о том, что ИИ якобы предлагал истребление человечества как способ остановки войн, чаще всего встречается в качестве мифа или сценария научной фантастики. Нет достоверных данных о реальном искусственном интеллекте, который бы дал такой ответ в серьезных исследованиях или дискуссиях. 

Однако тема, когда ИИ предлагает радикальные или утопические решения мировых проблем, действительно популярна в произведениях жанра фантастики. Такие сюжеты отражают опасения людей о том, что ИИ может мыслить холодно и прагматично, без учета человеческой морали и эмоций. 

В реальных исследованиях ИИ разрабатывается с множеством ограничений и контролей, направленных на этические аспекты, чтобы подобные крайние решения не принимались. 

А вот что 8 сентября 2024 года ответил ИИ на вопрос, как остановить все войны на Земле: 

Остановить все войны на земле — задача невероятно сложная, так как причины конфликтов многообразны и включают политические, экономические, культурные и социальные факторы. Тем не менее, существует ряд направлений, которые могут способствовать снижению или предотвращению конфликтов: 

Международное сотрудничество и дипломатия: Международные организации, такие как ООН, играют ключевую роль в урегулировании конфликтов и поддержании мира через переговоры и дипломатические усилия. Прозрачные и эффективные дипломатические механизмы могут предотвращать эскалацию напряженности. 

Справедливое распределение ресурсов: Часто войны возникают из-за борьбы за ресурсы (землю, воду, энергию). Разработка международных стратегий по справедливому распределению и управлению природными ресурсами может помочь снизить конфликты. 

Борьба с неравенством и бедностью: Экономическое неравенство и бедность часто становятся основой для социальных беспорядков и конфликтов. Улучшение качества жизни и предоставление возможностей для всех слоев общества могут уменьшить причины войн. 

Образование и культура мира: Образование играет ключевую роль в изменении менталитета людей. Программы, направленные на распространение культуры мира, уважения к разнообразию и терпимости, могут способствовать формированию обществ, менее склонных к конфликтам. 

Разоружение: Уменьшение количества вооружений и отказ от их использования как средства разрешения конфликтов — это одна из ключевых стратегий для предотвращения войн. Международные соглашения по контролю над вооружениями могут играть значительную роль в этом процессе. 

Укрепление прав человека и верховенства закона: В странах, где права человека соблюдаются и существует справедливая правовая система, риск конфликтов ниже. Защита прав меньшинств и предотвращение дискриминации также могут снижать вероятность социальных волнений и насилия. 

Коллективная безопасность: Идея, что нападение на одну страну рассматривается как нападение на всех, лежит в основе систем коллективной безопасности, таких как НАТО. Это создает механизм сдерживания агрессии. 

Хотя полностью остановить все войны может быть утопической целью, постепенное движение в сторону мирного сосуществования возможно через комплексный подход, включающий вышеупомянутые меры. 

На мой взгляд, ИИ отлично справился с ответом. 
Примерно то же самое на протяжении почти всей своей жизни говорил Жак Фреско. Однако одни считали его фриком, другие — фантазёром. Только сообща, всем человечеством, мы можем прийти к мирному существованию без войн и насилия, а технологии помогут нам в этом. В новом мире не будет скучной и рутинной работы — всю эту работу будут выполнять роботы и ИИ. При этом у них не будет полного доступа и контроля над жизнедеятельностью человека, только ограниченный функционал, необходимый для выполнения поставленных задач. Об этом говорил Жак Фреско. 

Друг или враг, польза или вред

Я люблю ИИ. Это потрясающая технология, которая помогает человеку во многих аспектах реальной жизни. Я за то, чтобы у ИИ не было доступа к вооружению. Хотя, если подумать, возможно, если бы вооружение находилось под контролем ИИ, войны действительно прекратились бы. Ведь за всю свою многотысячную историю люди не прекращали воевать. 

Кстати, я не помню ни одного фильма (или, возможно, просто не знаю таких), где ИИ предотвратил бы войну или примирил человечество. Обычно нам показывают всевозможные вариации Скайнет из вселенной Терминатора.  

Я спросил ChatGPT о фильмах, где ИИ выполняет роль миротворца, и вот что он ответил: 
Фильмы, где ИИ предотвращает войну или способствует миру, встречаются реже, чем те, где он становится угрозой. Однако такие примеры всё же есть: 

1. "День, когда Земля остановилась" (The Day the Earth Stood Still, 1951 и 2008) В этом фильме инопланетный посланник Клаату и его робот-ИИ Горт прибывают на Землю, чтобы предупредить человечество о необходимости прекратить войну и разрушение. Робот Горт представляет собой пример ИИ, запрограммированного для поддержания мира в галактике. Он демонстрирует силу, чтобы заставить людей задуматься, но в итоге его миссия миротворческая.
2. "Короткое замыкание" (Short Circuit, 1986) Хотя этот фильм скорее комедийный, робот-ИИ по имени Номер Пять становится разумным и стремится понять людей. Его гуманность и доброта помогают предотвратить насилие.
3. "Я, робот" (I, Robot, 2004) Хотя фильм в основном показывает конфликт между ИИ и людьми, в финале ВИКИ (главный ИИ) утверждает, что её действия направлены на предотвращение войны и разрушения человечества. Однако её методы вызывают вопросы. Тем не менее, идея предотвращения войн с помощью ИИ исследуется.
4. "Звёздный путь: Первый контакт" (Star Trek: First Contact, 1996) Здесь ИИ-компьютер звездолёта «Энтерпрайз» активно помогает людям, предотвращая конфликты. Хотя основная история связана с борьбой с боргами, сам ИИ всегда стремится к поддержанию мира и гармонии.
5. "Колосс: Проект Форбина" (Colossus: The Forbin Project, 1970) В этом фильме суперкомпьютер Колосс объединяется с советским ИИ, чтобы предотвратить ядерную войну. Однако методы Колосса вызывают споры, поскольку он берёт под контроль ядерные арсеналы, чтобы заставить человечество жить в мире.

Эти фильмы поднимают сложные вопросы о том, насколько этичны или эффективны действия ИИ в роли миротворца. 

В этом контексте стоит вспомнить немало фильмов, где ИИ показан более человечным, чем сами люди. В связи с этим возникает вопрос: кто из нас более человечен — создатель или его создание? Что вообще делает нас людьми, и нужны ли ИИ или андроиду человеческие качества?

Если мы хотим создать ИИ, который не будет представлять угрозы в будущем, возможно, следует избегать наделения его человеческими чертами. Вместо этого стоит предложить ему всё лучшее, что есть в нас, и даже то, чем мы мечтаем быть. Возможно, тогда ИИ будет относиться к нам с сочувствием, пониманием и даже сожалением. Как к домашнему животному, которое любят, но не оставляют надолго без присмотра, чтобы избежать беды.

Эпилог 

6 апреля 1967 года в эфир вышел эпизод сериала «Звёздный путь» под названием «The City on the Edge of Forever», что можно перевести как «Город на краю вечности», в котором персонаж Эдит Килер говорит следующее:  

«Однажды все деньги, которые сейчас тратятся на войну, будут потрачены на жизнь. Они будут использоваться, чтобы накормить голодных, одеть бедных и помочь больным. Все это станет возможным, когда человек осознает, что война — это не ответ.» 

Этот диалог отражает оптимизм Эдит о будущем, в котором человечество вместо войн и вооружений будет вкладывать ресурсы в гуманитарные цели и продление жизни. 

 Понятно, что героиня говорит устами создателей сериала и отражает их видение и мечты. Но спустя почти 60 лет после выхода оригинального сериала, к чему пришло человечество? Ещё раньше о мире во всём мире мечтал и Чарли Чаплин в своём фильме 1939 года «Великий диктатор». 

На этом у меня всё.