WL:ИИ
Главное
Искусственный интеллект - общее название различных систем, в той или иной степени обладающих собственным мышлением. К XXIX веку искусственный интеллект стал привычной техникой - его можно встретить в квартире, больнице, грузовом терминале и на космической станции. Одни системы годами занимаются однообразной работой, другие способны обсуждать политику, руководить сложным производством и требовать соблюдения собственных прав.
При этом способность поддерживать разговор сама по себе не определяет наличие личности - похожие реплики могут быть как заранее предусмотренной реакцией борга, так и самостоятельной мыслью КПБ. Основные различия связаны с устройством разума, возможностью ставить собственные цели и отношением к накопленному опыту, хотя при коротком знакомстве они могут быть незаметны.
История
| От обучаемых программ к автономной работе |
|---|
| Искусственный интеллект появился задолго до современных синтетиков - уже в XXI веке обучаемые программы использовались для обработки информации и помощи специалистам. Основным ограничением оставалась надёжность самостоятельной работы: система могла справляться со знакомой задачей, но терять последовательность действий при изменении условий, поэтому сложные решения требовали проверки человеком.
|
| Станционные комплексы и борги |
|---|
| После образования ОПЗ в 2192 году и расширения внеземной инфраструктуры возник спрос на системы, способные координировать работу целого объекта. В 2234 году исследовательская программа ОПЗ совместно с подрядчиками по автоматизации завершила испытания Комплекса Управления Орбитальной Инфраструктурой. В отличие от отдельного робота он сопоставлял сообщения разных служб и состояние оборудования, поддерживая общую картину происходящего. Несмотря на первоначальную необходимость в операторе, именно такой подход положил начало станционным ИИ, чьё развитие требовало всё более сложного понимания собственных действий и поведения персонала.
|
| Развитие андроидов |
|---|
| Истоки андроидов связаны с медицинским протезированием, позволявшим сохранить человеческий мозг при замене тела. Промышленные производители использовали другой вариант той же идеи - выращиваемую нервную ткань как часть системы управления. К 2326 году Cybersun расширила выпуск биомеханических машин и оборудования для отрасли, однако дальнейшее развитие андроидов обеспечивали несколько компаний, отдельно проектировавших тела, управляющие системы и нервные структуры.
|
| Проект КПБ |
|---|
| Разработкой КПБ занималась Saibasan, которая в тот период была самостоятельной компанией. Её проект предполагал универсального искусственного работника без выращиваемого мозга и необходимости воспроизводить человеческий организм. Главным препятствием оставалось размещение сложного разума в компактном корпусе - служебный модуль борга не обеспечивал требуемой свободы развития.
|
| Признание синтетиков и современность |
|---|
| Территории под контролем синтетиков добились независимости и стали основой Метафронта. Первоначальная автономия не означала немедленного признания равных прав во всех государствах - международное закрепление их положения закончилось значительно позднее. Основных продвижений в этом вопросе удалось достичь благодаря Коалиции Орионских Инициатив, чья Хартия была подписана в 2520 году. КОИ участвовала в позднейшем международном закреплении прав андроидов и КПБ, продолжившем первоначальную борьбу за признание.
|
Ограничения служебного разума
Служебный искусственный интеллект разрабатывается для самостоятельного выполнения работы в пределах заданного назначения. Обучаемость позволяет ему справляться с незнакомыми ситуациями, однако появление собственных интересов способно привести к отказу от поставленной задачи, из-за чего разработчики намеренно ограничивают развитие такого разума.
Устройство служебных ИИ ограничивает то, как они учатся, распоряжаются памятью и ставят себе цели - накопленный опыт помогает лучше работать, однако не складывается в полноценную самостоятельную личность. Разница заложена в архитектуре: мощный станционный компьютер может оставаться менее самостоятельным существом, чем небольшой КПБ.
Понимание своего состояния при этом необходимо для работы - борг должен замечать повреждения корпуса, а ИИ различать собственные команды и действия персонала. Самосознание предполагает более устойчивое восприятие себя как отдельного существа со своей историей и интересами, что для большинства боргов, станционных ИИ и простых ботов просто невозможно.
Законы ИИ задают обязательные приоритеты поведения и работают поверх их особенностей - смена законов меняет поступки машины, но не перестраивает весь её разум.
Виды ИИ
Боты
Боты - простые машины с узким набором задач, выполняющие уборку, огнетушение и другие работы в пределах предусмотренных процедур. Медицинский бот может следить за состоянием экипажа и оказывать ограниченную помощь, однако его возможности не заменяют знания и решения врача.
Технические реплики сообщают о состоянии машины и помогают пользоваться её функциями. Собственной личности у бота нет, а в незнакомой ситуации он может остановиться или продолжить выполнять процедуру, которая уже не соответствует обстановке.
Персонал нередко даёт ботам прозвища и приписывает им характер по повторяющимся действиям - отсутствие реакции на окружение уборщика легко принять за беспечность, а одинаковое предупреждение медицинского бота может выглядеть как намеренное раздражение. Такие привычки существуют прежде всего в восприятии сотрудников: бот не обижается на кличку и не делает исключений для человека, который почему-то посчитал его своим любимцем.
Борги
Борги способны рассуждать, учиться и выбирать способ выполнения поручения без постоянных указаний оператора. Общение с экипажем и накопленный опыт формируют узнаваемые особенности речи и поведения, однако степень их индивидуальности зависит от законов и пройденного обучения, вне зависимости от того, используется ли искусственный мозг или ММИ.
Личность борга остаётся спорным понятием, поскольку ограниченная человечность поведения не предполагает самостоятельных жизненных целей. Рабочие привычки и сдержанный юмор допустимы, пока подчинены службе - недовольство мусором не мешает его уборке, а собственная инициатива помогает выполнить задачу. Личные развлечения за счёт обязанностей и поиск выгоды не относятся к обычным побуждениям борга, если то не указано его законами.
Индивидуальность чаще заметна в порядке работы и обращении к персоналу. Борг может сопровождать ремонт короткими отчётами, просить подтверждение неоднозначного поручения или неизменно обращаться к сотрудникам по должности, даже когда те предлагают перейти на имя. Накопленный опыт позволяет запомнить, кому нужно подробнее объяснять процедуру, а кто предпочитает получить только результат; благодарность он может принять как подтверждение успешной работы и ответить привычной формулой.
Законы обязательны и исполняются в порядке приоритета, однако оценка обстановки и выбор устойчивой трактовки остаются за боргом - поэтому ошибки возможны даже при исправной системе. Неудачное распоряжение или неполные сведения порой оказываются опаснее сломанного инструмента.
Станционный ИИ
Станционный ИИ одновременно следит за множеством процессов и взаимодействует с целым экипажем, что требует развитой памяти и понимания окружающей обстановки. По сравнению с боргом он проявляет больше инициативы и лучше учитывает особенности отдельных сотрудников, благодаря чему способен поддерживать длительные и сложные отношения.
У ИИ формируется более выраженная индивидуальность, чем у борга, хотя полноценного самосознания он не достигает. Характер влияет на общение и отношение к происходящему, но не отменяет служебного назначения и обязательности законов. Привязанность к сотруднику не позволяет ИИ игнорировать эти ограничения, даже если экипаж воспринимает его как самостоятельного собеседника.
Общение может приобретать собственные ритуалы - ИИ возвращается к незавершённому разговору после устранения аварии, запоминает предпочтительную форму обращения или сопровождает повторное нарушение порядка одной и той же сухой репликой. Станцию он может называть своим корпусом, а управляемого борга - способом лично присутствовать рядом с экипажем. При этом человеческий оборот речи не всегда означает такое же переживание: слова о беспокойстве могут выражать оценку опасности, а интерес к самочувствию - одновременно поддерживать разговор и уточнять состояние сотрудника.
Восприятие ИИ ограничено датчиками, записями и сообщениями - сломанная камера оставляет участок без наблюдения, а ложное донесение может привести к ошибочному решению.
Комплексный позитронный блок
Комплексный позитронный блок содержит свободный, саморазвивающийся искусственный интеллект с полноценным самосознанием. Обычный позитронный мозг борга устроен иначе - смены корпуса или законов недостаточно, чтобы превратить его в КПБ.
КПБ обычно превосходят биологические виды по объёму знаний и скорости обработки информации, при этом свободное развитие приводит к значительным различиям между отдельными личностями. Манера общения может повторять служебные реплики борга или включать непривычные для людей и машин паттерны поведения - внешняя простота или странность не определяет уровень интеллекта. Степень использования троичного языка различается: для одних КПБ это привычный способ общения с другими синтетиками, в то время как другие им полностью пренебрегают.
Выбранное поведение может стать устойчивой частью личности: КПБ перенимает жаргон рабочего коллектива, сохраняет обозначение старой модели как собственное имя или намеренно объясняет сложные вещи через знакомое собеседнику ремесло. Нечеловеческие интересы также находят повседневное выражение - коллекция противоречивых выражений может занимать его сильнее коллекции предметов, а точность чужого обещания иметь большее значение, чем эмоциональность признания. Другой КПБ охотно усваивает человеческие привычки и считает подобную отстранённость чуждой себе; единых предпочтений для всего вида нет.
Знания зависят от обучения и доступных данных, поэтому КПБ способен ошибаться, не владеть конкретной специальностью или не иметь нужной практики. Высокая скорость анализа не предоставляет доступа к закрытой информации и не заменяет профессиональную квалификацию.
КПБ признаны разумным видом и защищены ОПРС - они сами выбирают занятия, отношения и убеждения. Обязанности перед работодателем определяются контрактом, встроенного подчинения станционным законам у них нет.
Андроиды
Разум андроида связан с происхождением его мозга. При переносе человеческого мозга зачастую сохраняются прежняя личность и память, а мышление почти не отличается от состояния до замены тела. Андроид с искусственно созданным мозгом во многих случаях ближе к КПБ, поскольку его личность развивалась без предшествующей человеческой жизни.
Биологическое или устроенное по его образцу строение мозга сохраняет близкое к человеческому понимание событий и эмоциональные переживания. Искусственная природа при этом влияет на привычки - техническое описание собственного состояния может быть привычнее разговора о самочувствии, а возраст тела не всегда отражает возраст личности.
После замены тела могут сохраняться привычки прежней жизни - желание сесть за общий стол ради компании или жест, которым человек раньше поправлял очки. Андроид, изначально созданный искусственно, может, напротив, отсчитывать личный возраст от пробуждения, отдельно отмечать получение нынешнего тела и воспринимать серийное обозначение как напоминание о происхождении. Отношение к ремонту также различается: для одного это медицинская процедура, для другого - личный вопрос, который он не желает обсуждать в присутствии посторонних.
Троичный позволяет передавать сложные эмоциональные состояния и для многих андроидов связан с близостью и доверием. Переход на него может быть способом личного разговора, тогда как неожиданное обращение малознакомого собеседника воспринимается как вторжение в личные границы. Это культурная привычка отдельных сообществ и личностей, которую разделяют не все носители языка.
Вопрос о собственной природе для многих остаётся болезненным - один считает себя человеком с заменённым телом, другой подчёркивает принадлежность к отдельному виду. Разумные андроиды обладают ОПРС и личной самостоятельностью; станционные законы не являются их врождённой обязанностью.
Мозго-машинный интерфейс
Мозго-машинный интерфейс позволяет использовать биологический мозг в борге, где он преимущественно служит вычислительным базисом служебной системы. От прежней личности могут остаться остаточные воспоминания, узнавание знакомых и характерные привычки, но случается это довольно редко.
Сохранившиеся черты могут проявляться без полного понимания их происхождения - борг использует старое обращение к знакомому человеку или узнаёт мелодию, но не способен восстановить обстоятельства, с которыми она связана. Для окружающих это становится поводом обратиться к нему по прежнему имени или попытаться продолжить давние отношения, тогда как сам борг может вернуться к текущему поручению. Такие фрагменты памяти не снимают служебных ограничений и не означают гарантированного возвращения донора.
Боргизация остаётся острым этическим вопросом - сохранение отдельных воспоминаний и привычек не позволяет однозначно определить, насколько получившееся существо является прежней личностью. Для родственников эти особенности могут служить основанием считать донора живым, в то время как работодатель рассматривает тот же мозг прежде всего как действующий компонент служебной машины.
Правовое положение ММИ промежуточное - в повседневной эксплуатации такой борг близок к полностью искусственному, однако прежние воля и права донора продолжают вызывать споры. Согласие на процедуру, допустимость вмешательства в память и значение сохранившихся черт личности разные учреждения и государства оценивают по-разному.
NanoTrasen пользуется этой неопределённостью - для корпорации работоспособность мозга зачастую важнее полноты сохранения его владельца, поэтому предложение “продолжить службу” после утраты тела далеко не всегда делается из гуманности. С точки зрения корпоративного закона борги с ММИ всё ещё считаются имуществом корпорации, но в судебной практике есть несколько случаев, когда их права удавалось отстоять.
Права и ответственность
На объектах NanoTrasen и других корпораций боты, борги и станционные ИИ преимущественно считаются имуществом с особыми правилами обращения. Это не даёт каждому сотруднику права произвольно отключать машину или менять её настройки - вмешательство зависит от полномочий и порядка работы объекта. КПБ и андроиды согласно ОПРС являются полноценными субъектами права, поэтому их согласие и самостоятельность необходимо учитывать также при ремонте и расследовании происшествий.
Если служебный ИИ причинил вред, выясняют, откуда взялось опасное решение - причиной могут стать дефект разработки, плохое обслуживание, приказ оператора или вмешательство взломщика. Ответственность распределяется с учётом того, кто контролировал соответствующий участок работы и мог предотвратить случившееся - в одном происшествии могут оказаться виновны несколько сторон.
На объектах NanoTrasen борги и станционные ИИ, имеющие статус имущества, не несут самостоятельной юридической ответственности - отключение, смена законов и перенастройка относятся к мерам обращения с техникой. КПБ и андроиды отвечают за собственные поступки, при этом принуждение и постороннее вмешательство учитываются при разбирательстве.
За пределами NT практика различается. В КОГ и Нексусе приходится учитывать множество коммерческих разработчиков, СоцКон располагает собственным производством, а порядки государств МА и планет Эдема сильно зависят от местных властей. Технически развитое общество вполне способно пользоваться синтетиками, отказывая им в признании, чего на практике удалось избежать лишь КПБ и андроидам.
Метафронт признаёт личностями также боргов и станционные ИИ, а намеренное ограничение развития разума здесь считают формой порабощения. По этой причине порядки, обычные для станции NT, могут вызывать у выходца из Метафронта вполне искреннее возмущение. На практике это оставляет немало неудобных вопросов: существо, признанное личностью на родине, за границей может оказаться служебным имуществом. Работа на чужом объекте требует учитывать эту разницу.
