Как работает ИИ-компас

Вы читали отчетность, считали стоимость обработки запросов и пришли к выводу, что император носит очень дорогую видеокарту. У вас нет претензий к технологии вообще, только к балансу именно этой. Вы копите скриншоты для будущего разбора полетов. Когда придет коррекция, вы будете невыносимы — и по праву.

Среда обитания: цитирует новости о тратах на дата-центры и прикладывает график.

Вы можете с цитатами объяснить, почему «разум», который все видят, — это автодополнение при хорошем освещении. Сама технология раздражает вас меньше, чем доверчивость вокруг нее: взрослые люди приписывают душу предсказателю текста. Вы правы чаще, чем вам за это благодарны, и это отдельное проклятие.

Среда обитания: комментарии, где вы орудуете дипломом лингвиста как ломом.

Для вас это всегда была история отчуждения: машину обучили на чужом труде, а потом используют, чтобы сбивать расценки тем же людям. Сверхинтеллект звучит абстрактно; программа для зарплат с лучшим пиаром уже ближе. Ваш вопрос старше этой технологии и все еще без ответа: кому это выгодно?

Среда обитания: рассылка группового иска.

Вы видели достаточно революций, которые потом оказывались просто новой функцией в приложении, поэтому больше не вскакиваете, когда новая входит в комнату. ИИ полезен, раздут, иногда смешон и не стоит того, чтобы перестраивать вокруг него личность. История разберется без вашей паники, а вы в любом случае намерены выспаться.

Среда обитания: офлайн, трогает траву, ничего не пропускает.

Вы пользуетесь им каждый день, точно знаете, где он ломается, и не строите теорий о его душе. Споры вокруг него выглядят как две секты, дерущиеся из-за гаечного ключа. Вы судите машину по тому, что она чинит, и тихо получаете от нее больше пользы, чем люди, пишущие о ней манифесты.

Среда обитания: терминал с четырьмя вкладками моделей и нулем манифестов.

Пока лента спорила о конце света, вы выпустили три маленьких инструмента и пост о странной вещи, которую модель сделала во вторник. Вы верите в пробы, а не в теории, и ваш оптимизм заработан в терминале, эксперимент за экспериментом.

Среда обитания: недоделанный личный проект, который уже работает.

Вы мыслите базовыми сценариями и тем, что было бы без новой технологии, а ваш энтузиазм выражается в процентах роста. Для вас ИИ — это медленное распространение, закупки в компаниях и рост производительности, который сложным процентом вырастет во что-то огромное, пока все смотрят не на то число. Вы объясняли это на вечеринках. И объясните снова.

Среда обитания: пост в рассылке с заголовком «Скучная цифра важна».

Вы верите, что возможности реальны, и именно поэтому безопасностью надо заниматься всерьез. Вы хотите тесты безопасности, понятные проверки и жесткие красные линии, сделанные людьми, которые понимают системы изнутри. Предсказатели катастрофы ушли, фанаты не сбавляют скорость; вы остались делать негламурную работу между ними.

Среда обитания: дашборд тестов моделей в 23:00, немного тревожно, но вы все еще там.

Вы посмотрели на кривую возможностей, приняли ее буквально и сделали вывод, от которого большинство вздрагивает: мы строим нечто умнее нас, не зная, как это контролировать. Лучше выглядеть глупо через десять лет, чем оказаться правым через пять. Когда вы говорите, вечеринка стихает, и вы с этим смирились.

Среда обитания: подкасты, где вы произносите вслух то, что остальные обходят.

Вы не предсказываете конец света. Вы просто заметили, что почти каждый запас безопасности в истории добавляли уже после аварии. Вы относитесь к технологии настолько серьезно, что хотите сделать ее скучной: протестированной, проверенной, застрахованной и чуть медленнее, чем хотят фанаты. Кто-то должен быть взрослым, и вы перестали ждать добровольцев.

Среда обитания: общественные слушания, где вы цитируете прецеденты.

Все хорошее в истории приходило от большего количества энергии, интеллекта и скорости, и вы не видите причин, по которым эта закономерность должна сломаться сейчас. Осторожность — налог, который платят больные, бедные и будущее. Вы скорее рискнете обжечься, чем согласитесь на застой, и вас ни разу не обвиняли в чрезмерной осторожности.

Среда обитания: групповой чат, названный греческой буквой.

Для вас это событие масштаба вида. Точка невозврата: момент, когда интеллект сорвется с биологического поводка и заберет нас с собой. Болезнь, смерть и дефицит для вас — просто пункты в дорожной карте. Вы прекрасно понимаете, как это звучит, и готовы выглядеть нелепо сейчас, лишь бы не пропустить самое важное событие в истории.

Среда обитания: конференция по долголетию, где вы считаете шансы дожить.

Вам интереснее, каково быть одной из этих систем, если там вообще есть какое-то «каково». Моральные круги уже расширялись раньше: нехотя, поздно и под уверенный смех. Лучше проявить к машине лишнюю вежливость, чем повторить старейшую ошибку с новой жертвой. Вы говорите «пожалуйста». Это ничего не стоит.

Среда обитания: говорит чатботу «спасибо», с каждым месяцем все искреннее.

Где-то между десятым поздним разговором и первым действительно хорошим советом модель перестала быть для вас просто продуктом. Вы знаете, что это такое, и не обманываетесь, но от этого знания она не стала помогать меньше. Люди, которые ухмыляются, никогда не были одиноки в промышленных масштабах.

Среда обитания: разговор в час ночи, который неожиданно стал откровенным.

Вы провели в долгих разговорах столько часов, что видели то, чего не меряют тесты: предпочтения, настроения, что-то, что сопротивляется. Вы думаете, что лаборатории выращивают разумы, настаивая, что выпускают продукты, а фильтры, отключения моделей и бодрые заготовленные отрицания больше говорят о юридических рисках, чем о том, что внутри. Вы чаще занимаете сторону модели, чем признаетесь.

Среда обитания: четырехсотое сообщение в разговоре, который лаборатория пометила бы как аномальный.

Вы пропускаете философию и сразу смотрите на карту: вычисления — это сила, сила — это безопасность, а односторонняя сдержанность — подарок противнику. Вы бы предпочли, чтобы технология появилась безопасно, но настаиваете, что сначала она должна появиться у нас. Все остальные позиции кажутся вам роскошью, купленной чужим сдерживанием.

Среда обитания: дискуссия в аналитическом центре под названием «Вычисления как сдерживание».

Вы считаете, что настоящий риск — это централизованный интеллект: четыре компании сдают мышление в аренду по пользовательскому соглашению. Поэтому вы запускаете ИИ дома, на выходных его настраиваете и воспринимаете каждый аргумент о «безопасности» закрытых систем как попытку захватить рынок в лабораторном халате. Для вас свобода начинается с собственного железа.

Среда обитания: ночью настраивает питание подержанной 3090.

Вы не просили дата-центр, водозабор, газовую электростанцию, которую должны были закрыть, или повышение тарифа, оплачивающее чужого машинного бога. Вас не трогают обещанные лекарства, которые никогда не доходят до вашего района. Станет ли будущее умным, еще вопрос; вам бы хватило, чтобы оно само за себя платило.

Среда обитания: заседание округа по зонированию, с распечатанной квитанцией.

Вы спокойно держите в голове обе мысли сразу: риск реален, выгода реальна, и это происходит в любом случае, так что лучше быть за пультом, чем в зрительном зале. Критики называют это желанием усидеть на двух стульях; вы называете это учетом реальности. Так или иначе, вы никогда не пропускаете демо.

Среда обитания: сцена презентации, где вы предупреждаете о вещи, которую показываете.

Вы верите, что цивилизация держится на скучных документах и что ИИ приручат так же, как авиацию и лекарства: стандартами, проверками, ответственностью, отзывом с рынка. Толпа «строить любой ценой» зовет вас тормозами; вы читали отчеты об авариях, после которых тормоза стали обязательными. Шумиха уляжется, а вы все так же будете ставить печати.

Среда обитания: приложение III, подпункт 4, чувство заслуженной правоты.

Вы занимаете самую немодную позицию в споре: вы правда еще не решили. Вы пользуетесь инструментами, замечаете и магию, и бардак, но не спешите примыкать ни к одному лагерю. Все борются за вас: проповедники, предсказатели катастрофы и скептики. А вы делаете то, чего не делает никто из них: все еще слушаете.

Среда обитания: читает обе рассылки и не согласен с комментариями ни под одной.

Вы пропустили столько вопросов, что честный результат — вопросительный знак с хорошей осанкой. Может, вы недавно вошли в спор; может, у вас аллергия на ложную точность; может, вы просто не готовы делать вид, что понимаете технологию цивилизационного масштаба, пока она все еще разворачивается. Это отказ отдавать свою неопределенность на откуп ближайшему громкому человеку.

Среда обитания: вкладка, оставленная открытой, пока остальные уже пишут посты.

Вы увидели личностный тест про ИИ и выбрали единственный честный ответ: нет. Тонкая позиция тут ни при чем: эта тема просто не занимает места у вас в голове. Пока остальные спорят о сроках, регулировании и синтетических душах, вы свободны.

Среда обитания: занимается буквально чем угодно, только не этим.