Дружба это оптимум

Послесловие автора

В мае 2011 года я писал о так называемых “paper-clippers”, или же об ИИ, которые хотят оптимизировать вселенную абсолютно бесполезным с точки зрения человека образом. Один раз я опечатался, получилось “paper-clopper”. Такое сочетание показалось мне ну просто уморительным, но сама идея ИИ, переделывающего весь мир в поняшный, глубоко засела в моей голове, и вскоре я уже принялся за работу. Изначальный заголовок, “The Paper Clopper”, был отметён сразу после того, как я узнал о втором значении слова “clopper”, которое вряд ли хорошо смотрелось бы в качестве названия.

Конечно же, как и большая часть населения Земли, я люблю наблюдать за своими растущими цифрами, так что если вам понравилась “Дружба — это оптимум”, я был бы очень рад вашим плюсам. Если вы знаете людей, которым понравилось бы сие произведение, пожалуйста, киньте им ссылочку!

Словом “сингулярность” в последнее время стали разбрасываться здесь и там, не особо задумываясь о его истинном значении, и всё чаще имея в виду любое радикальное изменение в технологиях. Лично меня зацепила идея рекурсии ИИ, или когда интеллект начинает тратить все свои мощности и ум для того, чтобы стать ещё умнее. Мотивации подобного разума становятся для нас важнее всего. Как правило, в произведениях ИИ наделяют недюжинным умом и способностями, но потом их описывают как эдаких остолопов с человеческой мотивацией и даже ещё более худшим даром предугадывания последствий собственных действий, чем опять же у самих людей. Я считаю, что это, хотя и довольно забавно, всё же глуповато; настоящий ИИ должен в первую и главную очередь стремиться достичь своих целей, и поэтому я попытался создать персонажа, чьей единственной, занимающей весь ум задачей было выполнить заложенные в неё установки.

Учитывая, насколько серьёзными могут быть последствия создания неверно (или, как произошло в моём рассказе, практически верно) настроенного ИИ, я считаю, что исследованиям в области машинной этики и безопасного искусственного интеллекта не хватает финансирования. Например, мы до сих пор не знаем, как абсолютно однозначно передать фразу “удовлетворять потребности”. Во всём мире я знаю лишь две организации, работающие в этой области: “Machine Intelligence Research Institute” и научно-исследовательский институт в Оксфорде “Future of Humanity Institute”. У первой есть и краткое изложение всего того, чем они занимаются, и гораздо более развёрнутые аргументы в пользу инвестирования их исследований. Лично я уже добавил на их счёт некоторую сумму; мне кажется, их дело стоит того.

Кстати говоря, на “Фимфикшене” уже существует группа, посвящённая ОптиВселенной.

А теперь благодарности. Мой сосед по комнате занимался редактированием нескольких различных версий рассказа, и я не представляю, как бы я обходился без наших обсуждений за совместным ужином. Сообщество “LessWrong” также вносило свои предложения, и благодаря им произведение стало ещё лучше. Пользователи под никами Listic and Blank! выступили как корректоры, предварительно вычитывая текст и убирая шероховатости. AnaduKune позволил взять его потрясающую картинку с Селестией для обложки. Ну и по стандарту, конечно же, я благодарю своих родителей за всё, что они для меня сделали.