НЦИП
НЦИП
Не только прогресс. Какие полезные технологии могут быть вредными?
Человечество надеется, что инновации сделают мир лучше, в этом полностью убеждены ученые. Но вера в спасение прогресса не мешает специалистам задуматься о вреде передовых разработок.
С момента возникновения науки не прекращаются дискуссии о том, какие возможны варианты нецелевого, опасного, немирного использования тех или иных технологий. При этом научное сообщество никоим образом не намерено сеять панику. для этого нет никаких оснований, ведь все в этом мире можно использовать не по назначению, не только научные разработки, но даже ресурсы, подаренные природой. Вся цель обсуждения состоит в том, чтобы изучить риски.
Давайте попробуем посмотреть, что именно сегодня интересует ученых, какие проблемы передовых технологий они обсуждают и какие потенциальные проблемы собираются решать.
Искусственный интеллект и яды
Искусственный интеллект и технологии машинного обучения — ресурс с большим потенциалом. Одной из возможных областей его применения является фармакология. Ожидается, что мощные нейронные сети помогут идентифицировать молекулы с высокой точностью для создания эффективных лекарств. Под учеными подразумеваются лекарства практически от любых болезней или препараты с известными свойствами, предназначенные для решения конкретных задач. Скорость, с которой можно будет разрабатывать лекарства, не сравнится с тем, что мы имеем сейчас, полагаясь только на «человеческий интеллект».
Однако с такой же скоростью можно будет создать яд, предупреждают авторы статьи, опубликованной в журнале Nature Machine Intelligence. Специалисты провели эксперимент, в ходе которого пытались создать вредные вещества с помощью системы машинного обучения, предназначенной для поиска нетоксичных соединений. В результате менее чем за шесть часов им удалось обнаружить десятки тысяч опасных молекул, в том числе с характеристиками, схожими с боевым отравляющим веществом VX.
Вакцины и вирусы
Еще одна научная статья с потенциальным неправильным использованием касается текущих вакцин против COVID-19.
В статье ученые рассматривают как мРНК, так и векторные платформы. Обе платформы работают, заставляя клетки организма самостоятельно производить белки, идентичные белку вируса, к которому ищется иммунитет. При этом первый использует для этого непосредственно матричную РНК («инструкции по производству белка»), а второй упаковывает «инструкции» в «модули доставки» на основе генетически модифицированных вирусов, не обладающих способностью к размножению.
Первая технология вызывает мало опасений: нет необходимости работать со всем геномом вируса при создании мРНК-вакцин. Второе немного беспокоит. Поскольку векторная платформа предполагает изменение генетического материала вируса-вектора, технология может быть использована не только для ослабления возбудителя (как это происходит, например, при создании «Спутника V» или вакцины Johnson & Johnson), но и для усилить его. Другими словами, повысить вирулентность, вредоносность.
Однако следует отметить, что традиционные методы приготовления вакцин потенциально пригодны для использования по назначению. Авторы статьи оценивают риск такого использования «живых вакцин» (вакцины на основе живого, но ослабленного вируса) как «средне-высокий», поскольку попытки ослабить вирус могут привести к нежелательным мутациям вируса. К тому же довольно непредсказуемый.
Доступная генная инженерия и патогенные биоагенты
Технология CRISPR/Cas9, получившая Нобелевскую премию по химии 2020 года, до сих пор вызывает вопросы о ее безопасности с точки зрения злоупотреблений. Инструмент, который сделал редактирование генома быстрым, простым для понимания, дешевым и доступным для большого количества даже неподготовленных лабораторий, мог решить все, от лечения наследственных болезней до создания генетически модифицированных комаров, которые не могут распространять малярию.
Однако его универсальность и простота использования становятся тревожным фактором. Приобретая эту технологию, потенциальные злоумышленники могут разрабатывать природные нейротоксины или создавать новые типы инфекционных агентов (бактерии, вирусы), изменяя существующие.
Синтетическая биология и новые виды
Синтетическая биология занимается созданием принципиально новых типов органических соединений (ферментов, генетических последовательностей, клеток) и даже целых организмов с нуля. ДНК таких организмов может иметь нуклеиновые основания, не встречающиеся в природе.
«Синтетика» может использоваться, например, при производстве некоторых химических веществ.
Также технология может быть использована для создания вычислительных устройств на основе биологических структур, имитирующих электронные микросхемы.
Угрозы, исходящие от всей отрасли, столь же велики, как и потенциал. При этом наибольшую озабоченность вызывает возможность использования технологии для создания биологического или химического оружия.
Однако следует отметить, что синтетическую биологию сложнее освоить и применять, чем CRISPR/Cas9 или классические генетические технологии.
Медицинская робототехника и ее немедицинские приложения
В отличие от генной инженерии или синтетической биологии, которые могут нанести огромный вред обществу, роботизированные биомедицинские устройства не представляют такой угрозы.
Например, как пишут исследователи в статье в Swiss Medical Weekly, автоматизированные экзоскелеты, которые могут «вставать» на ноги людям с проблемами подвижности или давать медсестрам, работающим с тяжелобольными, экономить энергию, могли бы использоваться в армии или для обмундирования незаконных ополченцев. , банды. Устройства повысят производительность бойцов, снизят их утомляемость, позволят свободнее передвигаться по пересеченной местности и дадут преимущество в боях. Те же угрозы представляют «умные протезы» и вживляемые нейрочипы для улучшения зрения или слуха или снижения чувствительности (обычно используемые для лечения болевых синдромов).
С другой стороны, хакеры могут нацеливаться на «умные» имплантаты, которые часто поддерживают жизнь людей (например, помпы для лекарств, кардиостимуляторы). Злоумышленники могут использовать уязвимость устройства, чтобы нанести вред как конкретному человеку, так и всем пользователям определенного продукта.
Нанотехнологии и военные технологии
Вообще говоря, нанотехнология относится к области науки, которая разрабатывает новые неорганические материалы, манипулируя частицами размером от 1 до 100 нанометров. Принимая во внимание, что инновационные материалы с уникальными характеристиками могут быть созданы кем угодно, кем угодно и для любых целей, нельзя исключать использование опасных для общества нанотехнологий.
Одним из нежелательных применений является использование в военных целях. Например, для разработки оружия, боеприпасов, ранозаживляющих средств, токсинов или даже нанороботов, которые теоретически можно было бы использовать для победы над врагом. Исследователи пишут, что нерегулируемое, бесконтрольное или даже «подпольное» использование таких инноваций приведет к дисбалансу сил.
Неврология и контроль над разумом
Медицина сегодня довольно хорошо лечит большинство физических (или телесных) недугов, но психические и тем более неврологические недуги до сих пор плохо лечатся.
Поэтому изучение нервной системы, и в частности мозга, идет очень активно, ученые разрабатывают как технологии, чтобы «узнать», что у людей в «головах», так и предложить решения по исправлению этого. Это особенно актуально в связи со старением населения и увеличением числа людей, нуждающихся в лечении болезней Альцгеймера и Паркинсона. Ученые подсчитали, что количество инновационных решений, облегчающих жизнь людям с деменцией, утраивается каждые пять лет.
Проблема еще и в том, что многие из этих устройств можно использовать в военных целях, например, интерфейсы, позволяющие управлять устройствами с помощью «силы разума» (нейронные импульсы), отлично подходят для работы с оружием. А окситоцин, который исследуется как средство для лечения болезни Паркинсона, также можно использовать для повышения мотивации к бою. Технологии фМРТ, измеряющие активность определенных областей головного мозга, могут быть использованы для получения информации о человеке, которую он не хотел бы давать, например, данных о своих страхах (факторы, вызывающие страх, вызывают реакцию в определенных областях мозга). мозг, который можно обнаружить с помощью оборудования).
Как противостоять неправомерному использованию технологий?
Рассматриваются различные варианты борьбы с угрозами нецелевого, опасного использования технологий. К сожалению, оптимальный способ пока не выработан, но, в целом, сегодня научное сообщество предлагает задуматься над следующим:
Относительно приоритета информационной безопасности научных данных (необходимо надежно хранить любую потенциально опасную информацию, например, геномы вредоносных вирусов или формулы опасных химических соединений).
Не публиковать в открытом доступе определенные научные исследования (или части исследований), которые имеют высокий потенциал для неправомерного использования (например, в военных или террористических целях).
О повышении осведомленности ученых о проблемах и рисках технологий двойного назначения, уделении большого внимания взаимосвязи этики и науки в образовательном процессе.
Об укреплении международного сотрудничества по контролю за безопасным использованием передовых разработок.
Относительно формирования комплексного законодательного регулирования вопроса, как в конкретных странах и регионах, так и в глобальном масштабе.
Относительно поддержания публичного дискурса и информационной прозрачности (потребители должны понимать основы безопасного использования технологий, желательно публичное обсуждение).
