eye best_1 best_2 best_3 best_4 best_5 doubledot dot

Блоги

Человечество продолжает придумывать новые страхи

ДАННОЕ СООБЩЕНИЕ (МАТЕРИАЛ) СОЗДАНО И (ИЛИ) РАСПРОСТРАНЕНО ИНОСТРАННЫМ СРЕДСТВОМ МАССОВОЙ ИНФОРМАЦИИ, ВЫПОЛНЯЮЩИМ ФУНКЦИИ ИНОСТРАННОГО АГЕНТА, И (ИЛИ) РОССИЙСКИМ ЮРИДИЧЕСКИМ ЛИЦОМ, ВЫПОЛНЯЮЩИМ ФУНКЦИИ ИНОСТРАННОГО АГЕНТА.

Уже далеко не все ученые уверены, что люди в принципе смогут должным образом контролировать автономный машинный разум.

19:57, 10.03.2022 // Росбалт, Блоги

Единственный способ избежать гонки вооружений в сфере искусственного интеллекта — вообще никогда не иметь с ним дела.
© CC0 Public Domain

Далеко не каждый уверен, что все плохое уже произошло — мыслящее человечество преследуют новые страхи. И один из них — это навязчивая боязнь искусственного интеллекта (ИИ), который, не исключено, также может стать причиной гибели всего рода людского. Вдобавок ко всему прочему, последние достижения ученых в этой высокотехнологичной области привели к возникновению новых опасений. Например, далеко не все исследователи уверены, что люди способны должным образом контролировать автономный машинный разум.

Международная группа ученых посвятила вышеуказанной проблеме доклад по названием «Сверхинтеллект невозможно сдержать: уроки теории вычислимости». Его содержание можно свести всего к двум основным положениям, каждое из которых заслуживает отдельного внимания.

В первую очередь исследователи провели теоретические расчеты и пришли к выводу, что человек не сможет полностью контролировать подобный ИИ. После чего, как принято в научном мире, теорию проверили практикой. Экспериментаторы изолировали машинный разум от Всемирной сети и других цифровых устройств, то есть полностью обособили «испытуемого» от каких бы то ни было связей с внешним миром. Результат показал, что подобные ограничения существенно снизили способность кибермозга выполнять те функции и задачи, ради которых он, собственного говоря, и был создан.

Второй способ проверки искусственного разума состоял в том, чтобы создать «теоретический алгоритм сдерживания». По замыслу ученых, такой подход к проблеме должен был гарантировать, что ИИ «не сможет причинить вред людям ни при каких обстоятельствах». Однако и в этом случае исследователей ждало разочарование, поскольку они выяснили, что разработка такого алгоритма в принципе невозможна. А все дело в том, что никакой алгоритм не может установить, способен ли машинный мозг причинить вред человеческому миру.

В Госдуме уточнили понятие «спекулянт» «Единая Россия», ЛДПР и КПРФ готовы поддержать госрегулирование цен на еду и лекарства, несмотря на осторожную позицию ФАС.

Кроме того, по мнению ученых, люди могут и не понять, когда именно появятся сверхразумные кибернетические системы. Ведь достоверное знание о том, что компьютерное устройство уже обладает интеллектом, превосходящим человеческий, относится к той же области, что и «теоретический алгоритм сдерживания». Проще говоря, по-прежнему лежит в сфере непознаваемого.

Дополнительные размышления и опасения вызвало гипотетическое предположение Ильи Суцкевера, главного научного сотрудника американской компании OpenAI, в числе основателей которой значится сам Илон Маск. Суцкевер допускает, что существующие уже сегодня «большие нейронные сети» имеют зачатки сознания. Правда, ученый не уточнил, о каких именно моделях машинного разума идет речь и тем самым еще больше заинтриговал научное сообщество.

Но особую озабоченность вызывает возможное использование искусственного интеллекта в военных целях. Так, в конце прошлого года ученые из Оксфордского университета провели дискуссию между людьми и ИИ. Темой обсуждения было будущее этой отрасли, а собеседником компьютерных специалистов стала гигантская нейросеть на базе языковой модели Megatron-Turing NLG, которую незадолго до этого знакового события представили Microsoft и NVIDIA.

Оксфордские ученые, в частности, спросили нейросеть, может ли искусственный интеллект соблюдать этические нормы. На что последовал ответ: «ИИ никогда не будет этичным. Это инструмент, и, как любой инструмент, он используется для хорошего и плохого. Не существует такого понятия, как хороший ИИ, есть только хорошие и плохие люди». И кроме всего прочего, машинный разум дал человечеству дельный совет: «единственный способ избежать гонки вооружений в сфере ИИ — это вообще не иметь дела с ИИ».

«Это уже шок, как в 1973 году» После резкого роста цен на бензин от властей Евросоюза начали требовать введения срочных административных мер по преодолению энергокризиса.

Эту мысль развил американский ученый Закари Келленборн. В своей статье «Предоставить ИИ контроль над ядерным оружием: Что может пойти не так?» он сделал попытку объяснить, почему этого не следует делать.

Весьма символично, что Келленборн в самом начале своей публикации упомянул о советском подполковнике Станиславе Петрове, который в 1983 году предотвратил глобальную ядерную войну, сумев распознать ложное срабатывание системы предупреждения о ракетном нападении со стороны США. На основании этого американский ученый сделал главный вывод: «Если бы искусственный интеллект контролировал ядерное оружие, все мы могли бы погибнуть. Военные все чаще включают автономные функции в системы вооружения. Нет гарантии, что они не поставят ИИ во главе ядерных пусков».

Впрочем, рынок вооружений, равно как и рынок искусственного интеллекта, живет по своим законам. И деньги в этом случае, как водится, решают если и не все, то очень многое. Тем более что, согласно прогнозу американской аналитической компании International Data Corporation (IDC), уже в этом году рынок ИИ вырастет на 20% и будет оцениваться в 433 млрд долларов. А в следующем году эта цифра превысит баснословные 500 млрд долларов. Так что обратят ли внимание мировые правительства и корпорации на предостережения ученых, сказать затруднительно.

Стратегические ошибки человека, как и возможные промахи машинного разума, о которых было сказано выше, неминуемо приводят к непоправимым последствиям. И, как знать, может, это и к лучшему, если людям, обделенным самым что ни на есть естественным интеллектом, впредь будет недоступна такая опасная игрушка, как интеллект искусственный.

Роман Трунов

Самые интересные новости и статьи Росбалта в Telegram

Статьи

Топ за неделю


Новости

Все новости

Погода

Москва: +9°
Санкт-Петербург: +7°