in , ,

Может ли искусственный интеллект стать угрозой в ближайшее время. Отвечает программист

Привет, друзья. В начале этого года мне посчастливилось быть частью команды разработчиков по внедрению машинного обучения в логику сайта. Нам нужно было создать алгоритмы для обработки больших объёмов данных.

До этого момента у меня не было реального опыта работы с нейросетью. И мне, как новичку в этой области, давали простенькие задания для изучения и практики.

Вы наверное слышали, что есть нейроны и они могут взаимодействовать друг с другом. Если нет, я сейчас расскажу простыми словами.

Так вот нейросеть работает с нейронами. Вы смотрели фильм «День Сурка»? Если нет, рекомендую. Главный герой этого фильма каждое утро просыпался в одном и том же дне и проживал его заново. Снова и снова.

Основной момент, это то, что герой фильма помнил все пережитые события из этого дня, сколько бы раз он его ни проживал. И как следствие мог не совершать ошибок, которые совершал вчера. Очень хороший навык, да?

Героя этого фильма можно сравнить с нейроном из машинного обучения.

Давайте представим лес. Ночь. Есть 10 человек и у них завязаны глаза.

Задача этих людей — выйти с другой стороны леса и ни разу не врезаться в дерево. Невыполнимо? Для человека, скорее всего, да. Но для нейросети вполне себе выполнимо.

Вот побежали наши 10 человек с завязанными глазами через ночной лес. Конечно, все сразу стали врезаться в деревья. Но каждый из них запомнил, где он врезался. И при следующей попытке это место уже будет обходить.

Сколько нужно сделать попыток, чтобы хоть кто-то из этих десяти нейронов (человек) прошёл лес без столкновений с деревьями? Да кто знает. Всё зависит от размеров леса и количества деревьев.

Эти нейроны будут пробовать и пробовать. И это займёт много времени.

Оказывается, есть возможность разрешить им обмениваться данными. Один нейрон может сказать другому, где он врезался в дерево. Уже интереснее, правда?

Пробежали наши 10 нейронов 100 раз по лесу. И каждый из них знает свой маршрут.

В коде, можно сказать — «Ребята! Кто бежит рядом, расскажите друг другу о деревьях, в которые вы врезались. Чтобы ваш сосед не повторил вашу ошибку».

Так процесс пойдёт быстрее. И нашим десяти нейронам уже будет проще. В итого, за какое-то количество попыток, один из них найдёт выход из леса. И задача будет выполнена.

Может возникнуть логичный вопрос. А что такое нейрон? Это математическая формула. Что? Формула? Да, просто формула.

Как вы думаете, может ли формула стать угрозой? А это, мои любимые читали и комментаторы, отличный вопрос.

С одной стороны, искусственный интеллект находится на таком первобытном уровне, что бояться нечего. Программисты используют его для классификации товаров, или цветов, или категорий.

Сейчас компьютер может отличить на картинке — где ваза, а где цветок. А если на картинке цветок в вазе? Ой, что делать? Вот вам и «интеллект».

Кстати, видели под статьями в «Дзен» написаны темы?

Вот пример тем одной из моих статей.

Эти темы выставляет искусственный интеллект от разработчиков «Яндекс.Дзен».

Какая тут может быть угроза? Ну выставит он неправильно темы и что? Ничего.

А вот с другой стороны, хакеры могут использовать нейросети, чтобы взламывать что-то. Как наши 10 нейронов из примера. Представьте, что им нужно не через лес бежать, а получить доступ к серверу какой-нибудь авиакомпании.

Программист решает, сколько нейронов будут участвовать в забеге. Можно поставить 100 или 1000. И они будут взламывать и взламывать, пока не взломают.

Для защиты уже стали внедрять нейронные сети. Это как игра. Плохие нейроны бегут по лесу, чтобы не врезаться в дерево. А хорошие нейроны бегают по лесу и ставят новые деревья. Забавно, да?

Я думаю, что в ближайшем будущем бояться нечего. Сейчас, пока ещё искусственному интеллекту нужно говорить — что делать. Самостоятельно он ничего делать не начнёт.

Читать и комментировать в Яндекс Дзен.

Старушка случайно обнаружила на балансе своего мобильного телефона минус 60 000 рублей

Супруга забыла смартфон в такси. Как удалось вернуть. Отвечает программист