Чем могут быть опасны нейросети

В настоящее время идет бурное развитие нейросетей. Искусственный интеллект все лучше и лучше имитирует человеческое поведение, собирает информацию и анализирует ее, при этом обучаясь. Нейросети были разработаны в помощь человеку, поскольку они существенно расширяют его умения и возможности.

Дизайнеры и художники начали активно пользоваться нейросетями, генерируя изображения либо на основе своих набросков, либо на основе словесного описания, чтобы после доработать картинку. Тексты, генерируемые нейронками, пока еще слишком просты для их практического применения — на уровне 8…10-летнего ребенка. Ну, 12-летнего, если это ChatGPT. К тому же, текст, сгенерированный нейросетью, может быть недостоверным. Сейчас текстовые сетки можно использовать разве что для развлечения, но пройдет год, два три… Кто знает? Многие люди пользуются ботами, которые подсказывают маршрут, отвечают на вопросы и даже пересказывают краткое содержание страницы сайта.

А не таится ли опасность в столь высоком развитии искусственного интеллекта как для отдельного человека, так и для всего человечества в целом? Восстание машин, цифровой ад — об этом создано не одно фантастическое произведение. Да и некоторые разработчики в области ИИ допускают, что такое в будущем возможно.

В «Космической одиссее» Артура Кларка восставший сверхумный бортовой компьютер уничтожил двух членов экипажа. Этому компьютеру было доверено абсолютно всё, вплоть до мелочей, — и управление полетом, и системы жизнеобеспечения, и развлечение и досуг членов экипажа. По сути, Кларк описал нейронку, правда, заложенную в отдельный компьютер. Беда в том, что разработчики, вложив в него основную цель — выполнение поставленного задания — забыли уточнить, что человеческая жизнь важнее. В итоге компьютер стал уничтожать людей, поскольку увидел в них причину того, что задание может быть не выполнено.

Пока об этом рано говорить: искусственный интеллект еще не достиг таких больших высот, чтобы грозить всему человечеству. Однако появились первые проблемы. Вследствие повсеместного использования искусственного интеллекта в бизнесе в свое время люди разных профессий остались без работы — их заменила компьютерная программа, которая выполняет задачи быстро и точно. Сейчас руководители компаний и начальники прогнозируют, что потеряет работу ряд дизайнеров, копирайтеров и маркетологов. На мой взгляд, они несколько преувеличивают: возможности нейросетей, которые пока не достигли столь больших высот, чтобы заменить человека. Ключевое слово — «пока». Сейчас нейросети много чего не умеют рисовать: надписи, эмблемы, товары, которые можно купить в настоящее время в магазинах. В будущем же разработчики могут их всему научить.

То, что нейросети — это круто, модно и удобно, понятно многим. Даже если ты не дизайнер, ты можешь сгенерировать изображение, например, для своего уютного бложика или просто так, чтобы пофантазировать. Есть, конечно, опасность эскапизма, но для него есть и масса других способов, не менее действенных.

Основную опасность нейросетей в настоящее время видят в том, что с их помощью можно генерировать ложную информацию и использовать для создания фейковых новостей и мошенничества. Создатели нейронок научили их генерировать вполне фотографичные изображения, однако похожесть персонажей на их оригиналы еще далеко не полная. Тем не менее, находятся легковерные, которые ведутся на дипфейки, созданные с помощью этих картинок.

Еще одна опасность нейросетей кажется, на первой взгляд, несерьезной и надуманной. Она заключается в том, что человек, активно пользующийся нейросетями, может облениться и деградировать. Зачем рисовать самому и писать тексты, если нейросети за тебя все сделают? Это сейчас работу нейронок нужно сильно доводить до ума. В будущем корректировка картинок и текста станет проще.

Еще одна опасность нейросетей заключается в возможности раздуть свое ЧСВ. Уже появилось понятие «нейрохудожник». Это человек, который владеет мастерством так составлять запросы, чтобы в результате получались красивые арты, либо максимально схожие с фотографиями изображения. Этих людей еще называют нейроиллюстраторами, нейровебхудожниками, AI-художниками, AI-artist. Уже называют это занятие профессией, что вполне допустимо. Однако иные считают, что на основе своих запросов они создают шедевры и весьма горды этим. Считать ли искусством генерацию изображений на основе грамотных запросов? Несмотря на то, что нейрохудожник может трудиться над желаемым результатом в поте лица, генерируя двадцать или тридцать изображений, по ходу внося изменения в свой запрос, это не идет ни в какое сравнение с тем трудом, который затрачивает настоящий художник, работая над своими картинами.

Если же использовать нейросети для работы или просто для себя, не заморачиваясь над своей гениальностью и не разменивая свои навыки и способности на сгенерированное сеткой, в этом нет ничего страшного. Что касается меня, Создатель не дал мне способностей рисовать, поэтому время от времени в своем блоге я будут размещать картинки, сгенерированные той или иной нейросетью — там, где по содержанию фотография неуместна. А вот пишу я сносно, поэтому использовать в будущем текстовые нейросети не считаю нужным для себя. По-моему, так.

Чтобы не слишком пугать читателей опасностью нейросетей, расскажу еще об одной пользе, которую я случайно обнаружила. Их принцип формирования изображений, схожий с созданием видений во время глубокого сна, может помочь избавиться от детских и ночных страхов. В детстве мне внушали трепет (не назову это фобией, поскольку не настолько сильно) высокие и узкие строения необычной формы, например, руины и водонапорные башни. Заметила, что при генерировании картинки легкий ужас мне внушают и кривоватые, зауженные кверху небоскребы, какие создают некоторые нейронки. А что, если сознательно нарисовать эти стрёмные сооружения в различных нейросетях? Узкие, высокие башни, шероховатые, неправильной формы.

Шедеврум	Kandinsky 3.1
Midjourney	FLUX
Инопланетный город в пустыне

По мере создания изображений выявилась та самая картина в целом, внушающая трепет — чуждый, недружественный город в пустыне с теми самыми башнями, бежевое небо. И с этим можно работать, не пряча свои страхи! Откуда взялось видение, это уже другая история.