Самое страшное в искусственном интеллекте, что интеллект у него естественный

Сейчас много говорят об опасности искусственного интеллекта, однако эта опасность исходит совсем не от машин.

То, что нам показывали в «Терминаторе», фактически невозможно. То есть железо, пластик и прочие материалы, сколько их ни напичкай электроникой, никогда не смогут мыслить самостоятельно и принимать самостоятельные решения, если варианты этих решений не заложены программой. В этом плане можно сказать, что ИИ в привычном понимании - это миф. Нет никакого искусственного интеллекта и быть не может!

Как действует любая компьютерная программа? Она состоит из алгоритмов: если да, то вот так, если нет - вот эдак. И по цепочке. Просто этих алгоритмов в некоторых случаях заложены миллионы, что создаёт вроде бы как иллюзию выбора.

Слушаешь ту же умную колонку, даже общаешься с ней - и кажется, что у неё есть разум, пусть даже маленького ребёнка. Но иногда банальные, но не заложенные в программу вопрос или действие ставят программу в тупик, а могут и вовсе уничтожить её.

Вспоминается давние советские фильмы «Москва - Кассиопея» и «Отроки во Вселенной». Там рассказывалось о миссии 14-летних подростков на далёкую планету, откуда поступил сигнал SOS. Космические путешественники столкнулись с роботами, которые хотели сделать людей похожими на них - без чувств и эмоций. И тогда на помощь пришло неожиданное решение: роботам задавали загадку про А и Б, которые сидели на трубе. В результате машины выходили из строя, поскольку перенапрягались в поиске ответа, который не был заложен, и перегорали.

Правда, чуть позже роботы усовершенствовались и уже знали ответ на этот вопрос, но не факт, что они знали ответы на другие. То есть в машину кто-то должен заложить новые алгоритмы и варианты действий - тогда она будет более совершенной.

Машина может стать орудием убийства, если она будет запрограммирована на это или случится какой-то сбой. Но всё равно принимать самостоятельные решения, не заложенные человеком, такая машина не сможет никогда.

А опасность как раз и состоит в том, что по ошибке или по злому умыслу в роботов могут быть заложены опасные для людей программы - от убийства конкретного человека, истребления определённой нации и вплоть до полного уничтожения человечества.

Такие работы ведутся учёными всего мира - и нет сомнений, что ИИ, прежде чем в полной мере будет поставлен на службу людям, сначала будет совершенствоваться как оружие, что мы и наблюдаем в последнее время.

Происходит нечто похожее, как это было с атомной энергией: сначала бомба, а потом уже электростанции и ледоколы.

Проблема лишь в том, что мы вполне понимаем, какую опасность несёт атомная энергия, и до сих пор худо-бедно её пытаемся предотвратить - на всех уровнях и во всех сферах. В плане же развития т.н. искусственного интеллекта мы не можем даже предположить, до чего додумаются воспалённые умы и какую программу заложат в свои машины. Например, попытаются заразить какой-нибудь новой формой того же ковида отдельные страны, а потом дать команду боевым роботам уничтожить всех, у кого есть антитела к этому вирусу. Или уничтожить людей с определённым разрезом глаз, цветом кожи, набором физиологических особенностей. Или заблокировать все счета и карты на территории какой-то страны, отключить все электростанции, всю инфраструктуру.

Именно поэтому во всём мире всё шире развёртывается кампания по обузданию развития искусственного интеллекта. Вот только шансы на это практически нулевые…

Алексей Карпов

____________________
Нашли ошибку или опечатку в тексте выше? Выделите слово или фразу с ошибкой и нажмите Shift + Enter или сюда.