Как написать текст нейросетью

Дата публикации: 17.02.2023
Время чтения: 8 мин.

Нейросеть — искусственный интеллект, который способен генерировать контент, в том числе и тексты. Мучающий многих вопрос: смогут ли нейросети заменить людей-креаторов, или до этого еще далеко?

В этой статье разберемся, как нейросеть пишет текст, посмотрим 10 лучших нейросетей для написания осмысленных предложений и проверим возможности одной из них.

Как происходит генерация текста

Нейросеть для создания контента — это набор алгоритмов, которые анализируют огромное количество информации и собирают похожий на нужный результат контент.

В процессе работы нейросеть не только запоминает все больше новых кусков текста, которые она может использовать для составления предложений, но и обучается на своих ошибках. Обучение позволяет ей выстраивать осмысленный текст, а не просто генерировать набор символов.

Сегодня «уроки» текстовых нейросетей тесно связаны с NLP (Natural Language Processing) — анализом и генерацией естественного языка. Искусственный интеллект не просто запоминает, какое слово чаще употребляется в том или ином контексте, но и учится понимать этот контекст.

Для самых продвинутых нейросетей-трансформеров текст — это набор цифровых кодов. Каждый символ — это код из нулей и единиц.

Самые медленные и слабые нейросети пытаются учиться на буквах, но такой подход пока не показывает хороших результатов — на анализ букв алгоритму нужно больше времени, чем на анализ нулей и единиц.

Такой упрощенный формат бинарной системы исчисления, помогает нейросети быстро генерировать текст, подбирая зафиксированные в памяти сочетания нулей и единиц, а не букв.

На основе нейросетей-трансформеров программисты строят огромные базы данных, вычленяя из них нужный символ в нужное время с помощью сложных математических алгоритмов.

База данных нейросети состоит из:

• бинарных кодов символов (нули и единицы),
• информации о синтаксисе языка,
• огромного массива данных о внешнем мире.

Такое сочетание ускоряет обучение нейросетей. Некоторые из них могут сразу же продолжать набранный человеком текст без промедления и длительного анализа данных и обучения. Эта модель генерации называется Few-shot learning, когда нейросеть в процессе написания текста, учится на своих ошибках.

Лучшие нейросети для написания текстов

Российские онлайн-сервисы

1. Gerwin AI

Самая продвинутая нейросеть для креаторов контента.

Gerwin AI пишет статьи, посты и заголовки. Внутри редактора нейросети вы можете изменять текст и сразу же проверять его на уникальность. Можно задавать тон написания материала: от шутливого до агрессивного.

Сервис платный. Тестового бесплатного периода для «пробы пера» нет. Доступ можно купить по подписке — платите один раз 4 990 рублей и получаете вечный доступ ко всем функциям Gerwin AI.

Или можно приобрести пакеты символов:

При покупке подписки на все пакеты символов действует скидка 40%.

2. Балабоба от Яндекс

Сайт: https://yandex.ru/lab/yalm

Молодая нейросеть от российского IT-гиганта, запущенная в июне 2021 года.

Балабоба сама обучается  — использует модель Optimization-based. Она знает правила русского языка, умеет осмысленно сочетать слова, запомнить свои ошибки. Она может дописать историю, пост или придумать короткую фразу.

Для обучения нейросети разработчики Яндекс загрузили в Балобобу все страницы, которые можно найти в поиске Яндекс. Она «прочитала» всю Википедию, все доступные в поисковике книги и всевозможные сайты и форумы.

Таким же методом программисты обучали голосового помощника Алису подбирать грамматически верные ответы при разговоре с пользователем.

Сама думать Балабоба не умеет. Она лишь парсит интернет в поиске подходящих осмысленных предложений.

В конце статьи дадим Балабобе задание и посмотрим, как она справится с ним.

3. Порфирьевич

Сайт: https://porfirevich.ru

Российский программист Максим Гранкин создал в 2019 нейросеть на основе прошлой модели GPT-2 Open AI и выложил ее в свободный доступ. Порфирьевич специализируется на написании коротких историй. Вы задаете начало рассказа — нейросеть продолжает его. 

Технические тексты тоже даются программе с трудом. Все научные тексты она сводит к размышлениям и риторическим вопросам.

4. ruGPT-3 от Сбер

Сайт: https://developers.sber.ru/portal/products/rugpt-3

Сбер все больше вкладывается в разработку систем искусственного интеллекта, о чем говорит выпуск своего голосового помощника в виде колонки и отдельная команда по работе с ИИ Sberbank.AI. И вот, в 2020 году Сбер выпускает переделанную версию GPT-3.

Для дополнения русского текста нейросети хватит всего пары предложений, чтобы она дописала осмысленный рассказ на 2 страницы с раскрытием героев и закрученным сюжетом.

Зарубежные нейросети

Зарубежные компании по разработке искусственного интеллекта делают акцент не на грамотном написании текстов, а на помощи креаторам.

Российские нейросети — это пока экспериментальные разработки, которые не могут полностью заменить сотрудника. По сранвению с зарубежным ИИ они еще «сырые». Иностранные же нейросети создаются для того, чтобы человек мог делегировать рутинные задачи искусственному интеллекту.

Все нейросети из подборки работают без VPN.

1. AdCreative.AI

Сайт: https://www.adcreative.ai

Американская нейросеть для создания рекламных постов и креативов.

Разработчики утверждают, что при использовании текстов, написанных AdCreative.AI, конверсии кликабельности объявлений увеличиваются на 14%.

Нейросеть создает не просто осмысленные предложения, а продающие тексты, задача которых не только быть читаемыми, но и продавать вашу услугу/товар аудитории. Также нейросеть создает рекламные баннеры в любом разрешении.

AdCreative.AI — платная нейросеть. Использовать ее можно по ежемесячной подписке стоимостью от 25 до 145$ в месяц. Есть бесплатный тестовый 7-дневный период.

2. Bertha.ai

Сайт: https://bertha.ai

Зарубежная нейросеть для создания продающих описаний товаров и услуг.

Сервис платный. Создатели предлагают 2 тарифа: 45$ и 150$ в месяц. Цена зависит от нужного количества текстов.

Также можно заплатить 25$ за 10 тысяч слов или 15$ за 100 изображений.

Еще Bertha.ai может создать текстовую копию веб-страницы, предложить идеи для публикаций и сгенерировать оригинальное изображение.

3. Writersonic

Сайт: https://writesonic.com

Мощная нейросеть для созданий креатива. Разработчики обещают, что создание контента ускорится в 10 раз при использованиии Writersonic.

Нейросеть может писать множество разных текстов: посты для блога, рекламные посевы, email-рассылки, наполнение сайта.

Тексты Writersonic SEO-оптимизированы. Сеть подбирает слова так, чтобы ваш блог или сайт был одним из первых в поисковой выдаче.

Программа платная. Цена использования нейросети зависит от количества сотрудник, которые будут генерировать контент с помощью Writersonic, и количества слов в месяц. Минимальный пакет на 1 человека и 47.5 тысяч слов стоит 12.67$, максимальный пакет для 15 человек и 5 миллионов слов — 666$.

4. CopyMonkey

Сайт: https://www.copymonkey.app

Зарубежная нейросеть, полностью адаптированная под русскоязычного пользователя.

CopyMonkey полностью платная: от 1 599 до 7 999 рублей в месяц. Можно связаться с менеджером платформы и обсудить с ним персональные условия для внедрения нейросети в бизнес-процессы своего предприятия.

Нейросеть может написать текст для сайта, пост для блога, заполнить карточку товара на Ozon или Wildberries.

5. PepperType.ai

Сайт: https://www.peppertype.ai

Создатели нейросети утверждают, что тексты PepperType.ai увеличивают конверсии продаж в несколько раз, а алгоритмы нейросети работают в 10 раз быстрее, недели алгоритмы других сервисов-конкурентов.

На платформе есть пространство для работы маркетингового отдела, где вы можете курировать работу креаторов и ставить им задачи. Они же, не выходя из рабочего пространства, могут создавать контент с помощью нейросети.

Нейросеть платная. Чтобы подключить нейросеть к работе, необходимо оплатить 35$ за одного сотрудника или 199$ за 5 человек.

6. Copy.ai

Сайт: https://www.copy.ai

Нейросеть для создания коротких рекламных текстов.

Copy.ai можно пользоваться бесплатно, но с ограничением — до 2000 сгенерированных слов в месяц. Или можно подключить тариф за 49$ в месяц без ограничений по количеству слов.

Но за приятной ценой стоит большой недостаток — тексты и креативы начинают повторяться со временем. Для генерации разных вариантов нейросеть должна обучаться на большом количестве данных. Разработчики Copy.ai не заложили в свое создание достаточно информации для создания уникального контента на месяцы вперед.

Как написать текст с помощью нейросети

Посмотрим, что умеет отечественный сервис Балабоба.

Чтобы попасть на страницу нейросети, заходим в поиск Яндекса, печатаем название сервиса и открываем самую верхнюю строку поиска.

Поисковик предложит 2 варианта Балабобы: русскую версию и английскую. Мы остановимся на русской.

Разработчики оставили заботливое послание на первом экране сайта нейросети, что Балабоба несовершенна, она может написать ерунду, и обижаться за это на нее не стоит.

Нажимаем «Договорились» и переходим на страницу-редактор текста.

Вверху мы можем выбрать стиль написания текста:

• Без стиля. Нейросеть допишет текст без какого-либо авторского стиля на любую тему.
• Новогодние открытки. Балабоба подберет картинку для открытки и допишет текст поздравления.
• Балабоба и Sports.ru. Написание комментариев к новостям спорта. Алгоритм разработчики Яндекс приурочили к чемпионату мира по футболу 2021 года в России и создали его совместно со спортивной редакцией Sports.ru.
• Инструкция по применению. Понятный простой текст с последовательными действиями.
• Рецепты. Те же «вкусные» инструкции.
• Народные мудрости. Пишем начало мудрости и получаем ее окончание от Балабобы.
• Короткие истории. Пишем рассказ вместе с Балабобой.
• Короче, Википедия. Балабоба даст определение к любому слову, которое вводит пользователь.
• Синопсисы фильмов. Пишем название существующего фильма — нейросеть находит его сюжет. Придумываем название фильма — нейросеть попробует пофантазировать, какой сюжет был бы у кинофильма с таким названием.
• Предсказания. Пишем имя или знак зодиака и получаем шутливое гадание от Балабобы.

Начнем с простого: дадим название несуществующего фильма и посмотрим, какой сюжет предложит нейросеть.

Первая попытка провалена. Почему-то нейросеть посчитала, что фраза «Опасные ящерицы 2: погоня за хот-догом» содержит в себе острую тему.

«Розовый слон вышел на прогул» больше понравился Балабобе, и она написала завязку для фильма в стиле романтических комедий Вуди Аллена. Но последние предложения смешиваются в кашу: становится невозможным понять, какой именно предмет розового цвета не понравился домохозяйке и что она она должна перекрасить в другой оттенок.

Вводим начало народной мудрости. В ответ нейросеть находит ее продолжение в интернете.

Если написать несуществующую пословицу, то Балабоба генерирует осмысленное продолжение на основе текстов из интернета:

Попробуем написать в соавторстве с Балабобой историю:

Лихозакрученный сюжет нейросеть не предложит — только допишет короткий рассказ на основе предложенных данных пользователем.

И последнее самое сложное задание: попробуем написать вместе с Балабобой пост для блога. Для этого выберем вариант стилизации «Без стиля»:

В этом случае нейросеть предлагает уже более осмысленный вариант — целостный текст с логическим завершением.

Заключение

Нейросети — новый инструмент, который может помогать креаторам создавать контент или улучшать его качество. С каждым годом они становятся все более совершенными, а с такими темпами развития, кто знает, возможно, искусственный интеллект сможет полностью писать тексты за людей уже в недалеком будущем.

Вам понравилась статья?

17

0

Когда нейросети научились создавать картинки по текстовому описанию, художники напряглись — кажется, в будущем компьютеры смогут отобрать у них работу. Сейчас настало время насторожиться всем, кто работает с текстом. В конце ноября 2022 года калифорнийская компания OpenAI запустила бота ChatGPT, который генерирует текст по любому запросу. Например, его можно попросить рассказать про Льва Толстого, и он даст понятный и достаточно развернутый ответ. И это не просто информация из Гугла и Яндекса — текст полностью уникален, потому что создан искусственным интеллектом. Прямо сейчас миллионы людей тестируют бота и удивляются полученным результатам, потому что ChatGPT способен даже написать реферат и найти ошибки в программном коде. Давайте посмотрим, как он работает и поговорим о том, к чему может привести существование такой технологии.

Нейросеть для генерации текста

Нейросеть для создания текстов от OpenAI основана на алгоритме GPT (Generative Pre-trained Transformer). Существует несколько версий этого алгоритма, и каждый новый вариант лучше предыдущего. Например, представленный в 2019 году GPT-2 умел писать фейковые новости, но их можно было легко разоблачить. У старой версии был еще один весомый минус — пользоваться ею мог далеко не каждый. У кого-то не было к нему доступа, а кто-то не знал программирования.

Недавно представленный бот ChatGPT основан на алгоритме GPT-3.5. Он стал не только умнее, но и обзавелся понятным интерфейсом в виде мессенджера. С ним можно как общаться на бытовые темы, так и просить что-нибудь сделать. Например, его можно попросить сочинить стихотворение на определенную тему или написать сочинение — все будет сделано. Нейросеть понимает английский и русский язык, правда во втором случае могут возникать ошибки в склонениях и падежах.

Как работает нейросеть пишущая тексты

На сегодняшний день нейросеть ChatGPT доступна бесплатно. Но, возможно, спустя некоторое время разработчики добавят лимиты или вовсе сделают его платным. На днях глава OpenAI Сэм Альтман (Sam Altman) написал Илону Маску о том, что каждый запрос пользователей обходится компании в несколько центов. Так что нужно успеть опробовать новую технологию, пока она доступна.

К сожалению, бот ChatGPT недоступен в ряде стран, в том числе и России. Обойти ограничение при помощи VPN тоже не получится, потому что при регистрации нужен номер телефона — если он российский, войти никому не удастся. Но все остальные, кому удалось получить доступ, пользуются нейросетью без особых проблем.

Подсказка: зарегистрироваться в ChatGPT можно, используя VPN и купив виртуальный номер другой страны. Посоветовать какой-то определенный сервис не можем, лучше самим поискать в Интернете.

Генерировать тексты при помощи ChatGPT просто — нужно писать запрос в чат, и получать результат в ответном сообщении. По сути, это переписка с компьютером.

Читайте также: Самые впечатляющие картины, музыка и другие проекты, созданные нейросетью

Что умеет генератор текстов

В первую же неделю после релиза, нейросетью ChatGPT воспользовались миллионы людей. Они быстро убедились, что искусственный интеллект пишет тексты хорошего качества и нашли ему применение. Некоторые пользователи удивляют находчивостью.

Например, один американский студент написал при помощи ChatGPT отличные рефераты — как за себя, так и за других. Не прилагая никаких усилий, он не только получил хорошие оценки, но и смог заработать денег. Он признался, что его очень волнует будущее студентов. Ведь существование такой нейросети обесценивает весь труд, вложенный в написание текстов — если не взять это под контроль, молодые люди смогут оканчивать учебные заведения не получая никаких знаний.

Нейросеть ChatGPT также хорошо разбирается в программировании и может найти ошибку в коде или даже написать его с нуля. Например, алгоритм по запросу может написать код простой игры вроде пинг-понга или разработать простой калькулятор.

Вдобавок ко всему этому, нейросеть умеет «пересказывать» любой текст своими словами. Благодаря этой возможности можно сделать ворованный текст уникальным.

Вам будет интересно: 5 нейросетей для создания уникальных фотографий и рисунков

Насколько хорошо нейросеть пишет текст

Само собой разумеется, редакция Hi-News.ru тоже попробовала запустить ChatGPT. На запрос «Лев Толстой жив?», искусственный интеллект ответил, что он умер в 1910 году и на данный момент не может быть живым. То есть, он не просто пересказал его биографию, но и дал прямой ответ на вопрос.

Также нейросеть точно ответила на вопрос «Как жениться на королеве?». Она объяснила, что обычному человеку об этом не стоит и мечтать — обычно королевы выходят замуж за принцев или других членов королевских семей, чтобы укрепить политические связи между странами.

Также нейросеть OpenAI неплохо справилась с написанием стихотворения. На запрос «Напиши стих про собаку», она выдала несколько разных текстов. Внешне они очень похожи на стихотворения, но рифм и красивых выражений в них нет. Но пройдет год или два, и искусственный интеллект для сочинения стихов и песен явно станет реальностью.

Стоит взглянуть правде в глаза — нейросеть ChatGPT не идеальна. Например, она не может искать актуальную информацию в Интернете. Если спросить «Что сегодня сделал Канье Уэст?», искусственный интеллект прямо скажет, что не умеет получать актуальную информацию о событиях, которые происходят в реальном мире.

На некоторые вопросы нейросеть отвечает бредом. Например, по мнению ChatGPT, криптозима — это вирус, который был обнаружен в конце 2020 года.

Читайте также: 5 нейросетей для создания картинок, о которых мало кто знает

Чем опасны нейросети пишущие рефераты

Нейросеть ChatGPT отлично справляется со школьными сочинениями и рефератами — специалисты видят в этом большую угрозу. Дело в том, что вооружившись таким инструментом, любой учащийся может получить уникальное сочинение в пару кликов и заработать хорошую оценку. Ни о каком получении знаний в этом случае не может быть и речи. Способ решить эту проблему разрабатывается уже сейчас — эксперты предлагают в будущем отказаться от домашних заданий, а сочинения и рефераты писать под присмотром преподавателей. Для лучшего результата, студентов могут просить провести презентацию своей работы.

Вдобавок к этому, искусственный интеллект способен создавать фейковые новости, которые трудно отличить от настоящих. Еще специалисты опасаются того, что он может быть использован преступниками — они точно найдут нейросети применение.

По словам ведущего разработчика Gmail Пола Бакхейма (Paul Buchheit), через пару лет алгоритм GPT-3.5 и его новые версии могут полностью изменить процесс поиска информации в Интернете. Возможно, людям больше не придется вводить запрос и искать нужное на разных сайтах — поисковик сможет дать ответ сразу же, без перехода на другие ресурсы. Полностью поисковые системы не исчезнут, но нейросеть станет их «лицом», и людей мало будут интересовать сайты.

Вот еще: Нейросеть Lensa рисует портреты по фотографии — попробуйте сами прямо сейчас

Российский студент защитил диплом при помощи ChatGPT

Нейросеть ChatGPT уже используется российскими студентами. В конце января 2023 года учащийся РГГУ Александр Жадан попросил нейросеть написать исследование на тему «Анализ и совершенствование управления игровой компании». В первую очередь нейросеть написала план диплома и студент отправил его научному руководителю, и тот потребовал исправить его в соответствии с методичкой. После этого студент попросил ChatGPT изучить методичку и внести исправления, с чем нейросеть прекрасно справилась. Далее он вводил запросы на английском языке, переводил текст на русский и получил работу с оригинальностью 82%. Во время проверки, ничего не подозревавшие руководитель и дипломная комиссия отметили, что в тексте много несвязностей и нарушений логики русского языка. За свою работу студент получил оценку «удовлетворительно».

После того, как правда была раскрыта, в вуз начали поступать предложения лишить студента диплома. В феврале Александр Жадан рассказал, что в РГГУ приняли его работу и он рассчитывает получить диплом через две недели. При этом, представители РГГУ предложили ограничить доступ к ChatGPT из-за опасений по поводу негативного воздействия на обучение.

Платная подписка ChatGPT Plus

В феврале 2023 компания OpenAI анонсировала платную подписку ChatGPT Plus. На данный момент она доступна только по листу ожидания и стоит 20 долларов, что по текущему курсу равно примерно 1500 рублям. Платная подписка ChatGPT позволяет пользоваться нейросетью даже при высокой нагрузке, увеличивает скорость ответа и дает ранний доступ к новым функциям. В будущем компания хочет открыть доступ к набору инструментов API ChatGPT, который позволит встраивать нейросеть в собственные сервисы. Бесплатная версия ChatGPT все еще работает, но медленнее и без особых перспектив на получение улучшений.

Другие нейросети для написания текста

Некоторые люди до сих пор не могут зарегистрироваться в ChatGPT. Если очень хочется опробовать эту технологию, есть пара российских альтернатив, которые точно запустятся. Конечно, качество текстов получается хуже и написать реферат при помощи них не получится, но для ознакомления они подходят отлично.

Самый известный генератор текста на основе искусственного интеллекта — это «Балабоба» от Яндекса. На верхней странице сайта можно выбрать стиль написания текста: инструкция, рецепт, народная мудрость и так далее. В текстовое поле нужно написать пару-тройку слов, чтобы нейросеть оттолкнулась от них и дописала текст. Иногда получаются интересные результаты.

Также есть нейросеть ruGPT-3 от Сбера. Чтобы искусственный интеллект написал текст, нужно ввести «затравку» — несколько слов, на основе которых он продолжит сочинение. В отличие от «Балабобы», тексты получаются длиннее, но при этом имеют ошибки и лишние символы.

А вы пробовали пользоваться нейросетями для создания текста? Что интересного получилось? Пишите в комментариях или нашем Telegram-чате.

Искусственный Интеллект (ИИ) не стоит на месте, его область применения все больше расширяется. Для нейронок не проблема написать часть кода, найти логические ошибки в тексте или объяснить простым языком, что написано в научной статье. Они даже могут проанализировать сюжет фильма, миллионы отзывов на него и сказать, стоит ли его смотреть.

Мы собрали в одной статье все самые полезные программы и сервисы на основе нейросетей, которые работают с текстом и языками. Материал будет особенно полезен программистам, SEO-специалистам и копирайтерам.

GPT-3 и новый ChatGPT

На данный момент GPT-3 — крупнейшая языковая модель по обработке естественных языков, которая способна писать тексты на английском, русском и других языках не хуже человека. Масштаб ее применения очень широк: нейронка может писать стихи, новости, разгадывать анаграммы, программировать и переводить.

На данный момент GPT-3 нет в открытом доступе, и получить доступ к ней могут только избранные разработчики. Тем не менее в ноябре вышел ChatGPT, которым может воспользоваться онлайн любой желающий.

ChatGPT — это универсальный чат-бот на базе GPT-3, который работает в формате диалога и решает любые задачи, связанные с текстом и кодом. Он может найти ошибки в тексте, причем логические, а также объяснить, почему он прав. Если доказать ему, что он ошибся, то бот признает свою вину и запомнит ошибку на будущее.

Мы пообщались с чат-ботом и загадали ему загадку на логику про воробьев на дереве:

С первого раза ответ был неправильным, но после небольшой подсказки нейросеть прекрасно справилась с решением:

Программирование

Для программистов такой чат-бот станет удобным помощником, который, конечно, не сможет полностью сделать всю работу, но зато облегчит ее. Например, найдет ошибки в коде или напишет его по текстовому запросу.

Вот пример, где разработчик попросил нейросеть создать Spring MVC-контроллер, который принимает книгу-объект в качестве аргумента и сохраняет ее в базу данных:

Нейросеть создала код без единой ошибки и даже учла некоторые особенности запроса. Ниже она дополнительно расписала объяснение своих действий:

Часто бот пишет сложный код с небольшими ошибками. Поэтому его результаты нужно перепроверять, а позже просить его же исправить их самостоятельно.

Начинающие программисты могут использовать бот для обучения, чтобы разбираться в некоторых элементах работы. Ведь нейронка также может давать советы по улучшению кода:

Обучение

Помимо программирования, ChatGPT может помогать студентам и школьникам в написании сочинений и решении домашнего задания. Нейросеть с легкостью решает любые математические задачи и с результатом в 95% проходит тесты университетского уровня по микробиологии.

Мы решили дать боту задачи по математике для девятиклассников и посмотреть, как он справится с решением. Вот первая задача и ответ нейросети:

Отличный ответ с подробным объяснением. Это говорит о том, что нейросеть можно использовать для понимания студентами каких-то сложных моментов.

Генерация идей

Также с нейросетью можно просто забавно поболтать или попросить ее предложить идеи для чего-угодно. Вот пример, где разработчик игры попросил нейросеть придумать суперспособности для персонажа, предварительно описав концепцию игры и то, чего он ждет от нейронки:

Вот такие варианты предложила нейросеть:

Надо сказать, что на русском языке ChatGPT работает не так хорошо, как на английском. Потому лучше составлять свои запросы именно на нем для получения максимально качественного результата. После того, как разработчик переписал свой запрос на английском, нейронка выдала более продуманный результат с подробным описанием способностей персонажа:

Мы тоже решили попросить дать идею для картины, в которой должны быть совмещены идеи христианства, ислама и феминизма, так как это сложная задача.

Нейросеть дала в первом ответе достаточно примитивный ответ. Но вот второй комментарий довольно интересный. Отметим, что под «свастикой» нейросеть имела в виду религиозные руны, которые не имеют ничего общего с символикой фашистской Германии прошлого века. В целом ChatGPT можно использовать, чтобы получать новые идеи для творчества.

Или, например, можно попросить нейросеть сгенерировать идеи стартапов:

Чтобы воспользоваться ChatGPT из России, нужно перед регистрацией включить VPN и зарегистрировать аккаунт на иностранный номер. Их можно покупать в сервисах одноразовых виртуальных номеров. После успешной регистрации можно приступить к работе с чат-ботом.

В будущем создатели ChatGPT планируют сделать бот платным. Так что успейте протестировать нейросеть сейчас, пока она еще доступна каждому желающему.

Aiseo

Aiseo — это онлайн-сервис для написания статей, оптимизированных под нужные SEO-стандарты. Он позволяет делать работу в 10 раз быстрее, по словам создателей. Инструмент может как писать статьи с нуля, так и переписывать тексты в соответствии с определенным стилем или улучшать их.

Для удобства работы в Aiseo уже есть готовые шаблоны написания текста, и вот некоторые из них:

Также сервисом можно пользоваться для рерайтинга текстов. Причем можно сделать рерайт незаметным, например, для текстовых крео, которые нужно лишь слегка изменить внешне, не меняя при этом суть. Функция называется Paraphraser и выглядит вот так:

Одним из полезных инструментов в Aiseo является анализ читаемости текста, который выглядит вот так:

Еще одна интересная функция — это генерация профессиональной обложки для статьи или записи в блоге. Попробуем загрузить эту статью и посмотрим, какую обложку сгенерирует сервис:

Это выглядит интересно, но не очень профессионально, чтобы использовать эту картинку для статьи. В целом не слишком плохо, хоть и двойная рука немного пугает.

Основная цель сервиса — написание полноценных текстов с готовой SEO-оптимизацией. Для этого перед началом работы нужно ввести тему статьи, ее стиль и ключевые слова.

Вот такой результат получился при запросе «написать статью про использование нейросетей в маркетинге», и можно сказать, что это действительно хороший результат: 

Aiseo — платный сервис, который предлагает несколько видов подписок. Самая дешевая подписка Grow стоит $15 в месяц и дает 500 кредитов, которых хватает на 50 000 знаков. Средний тарифный план Scale обойдется в $29 в месяц и дает право на неограниченное написание и оптимизацию текстов. Тарифный план Team за $44 отличается только тем, что дополнительно позволяет использовать сервис второму человеку.

Подводя итог, можно сказать, что программа заслуживает внимания копирайтеров и SEO-специалистов. Она имеет широкий функционал и достойное наполнение, помогающее сократить время работы и сделать ее легче.

Galactica

Galactica — это большая языковая модель с открытым исходным кодом от Meta* AI. Целью создания этой нейросети была помощь студентам в быстром изучении материала. Именно поэтому Galactica отлично справляется с анализом любого текста и созданием кратких конспектов из больших текстовых файлов.

На сайте нейросети есть варианты того, как она работает, например, с решением математических заданий:

Протестировать на данный момент Galactica невозможно. Уже через 3 дня после выпуска нейросеть снова закрыли, так как оказалось, что она генерирует бессвязные тексты под видом научных статей. Первые тесты показали, что Galactica давала на 85% неверную информацию по запросам. При этом разработчики заявляли, что она гораздо лучше справляется с анализом и написанием научного текста, чем GPT-3.

Пользователи, в свою очередь, начали создавать наукоподобные тексты с оскорбительным или опасным содержанием, что стало второй причиной закрытия доступа к нейросети. Возможно, ее вернут после доработки, но скорее всего уже без открытого исходного кода.

Explainpaper

Explainpaper — это онлайн-сервис, который работает на базе GTP-3. Его функция — анализ сложных статей и текстов для получения краткого резюме по ним. Пользователь может выделять непонятные слова, предложения или абзацы, чтобы нейросеть объяснила значение фрагмента. Полезнее всего функция будет для чтения научных статей, книг и исследований, а также для изучения языка.

Так как сервис работает на английском языке, то и статьи он воспринимает только на нем. Для тех, кто читает научные тексты на этом языке, иногда просто незаменим помощник, который может моментально объяснить значение незнакомого слова или аббревиатуры:

Для эксперимента была взята научная статья про депрессию и выбран небольшой отрывок про биполярное расстройство. Нейросеть выделила основную мысль таким образом, что прочесть и понять его стало проще:

Текст не стал короче, и смысл здесь не в этом, а в том, что нам все объяснили более понятным языком.

Сервис абсолютно бесплатный, для начала работы нужна только регистрация. Файлы необходимо загружать с компьютера в формате PDF. Explainpaper однозначно заслуживает внимания!

Copilot

Copilot — это программа на базе ИИ, которая пишет код на основе текстового запроса на английском, предлагает подсказки по улучшению, оставляет комментарии и дает имена функциям. Она была разработана компаниями GitHub и Open AI и показывает просто потрясающие результаты, которые впечатлят любого программиста.

Стоит упомянуть, что весь смысл Copilot в том, что это именно программа-напарник, который встраивается в IDE. Она не может самостоятельно написать весь код, но зато может сократить время монотонной работы и облегчить процесс написания кода в целом. Лучше всего Copilot работает с Python, JavaScript, TypeScript, Ruby и Go, а вот с Bash она справляется не слишком хорошо.

По сути Copilot просто берет подходящий под контекст код из хранилища данных GitHub и предлагает его пользователю. Может показаться, что в этом случае подсказки не всегда могут быть корректными. Но последние исследования разработчиков показали, что пользователи приняли в среднем 26% всех подсказок. Интересно, что со временем Copilot предлагает более точные подсказки, так как нейросеть обучается не только на данных из открытых источников, но и на тех строчках кода, которые пишет сам программист. Таким образом, программа лучше начинает понимать потребности конкретного пользователя и постепенно показывает все более релевантные результаты.

Разработчик, который протестировал работу Copilot, решил попробовать два варианта взаимодействия с программой. В первом варианте он предложил создать новый компонент кода нейросети по обычному текстовому запросу. Вот что выдал Copilot:

Это плохой пример работы Copilot, потому что он предлагал импортировать кучу всего ненужного. Потому такой вид использования программы не самый эффективный. Зато в следующем примере разработчик показывает, что если начать создавать компонент самостоятельно, Copilot лучше понимает, что от него требуется, и пишет именно то, что нужно:

Таким образом, Copilot хорош именно в качестве помощника, который может написать часть кода и сделать это хорошо, сэкономив время разработчикам.

Чтобы попробовать программу, нужно подать заявку и дождаться ее одобрения, ведь в открытом доступе Copilot пока нет. Причем не нужно иметь какого-то внушительного бэкграунда. Получить доступ к программе может практически любой.

Ghostwriter от Replit

По своему назначению и особенностям работы Ghostwriter очень похож на Copilot, так как это тоже помощник для программиста. Программа также работает на базе нейросети и предлагает улучшения для написанного кода, тем самым упрощая труд разработчика.

Основой Ghostwriter является большая языковая модель, которая обучается на миллионах строк кода в открытом доступе. Также программа учится на коде конкретного разработчика. Она нацелена на четыре основные задачи, а именно: написание продолжения кода, генерацию нового кода, трансформацию кода и его объяснение.

На официальном YouTube-канале Replit есть небольшой видео-гайд по установке и основным функциям:

Для примера разработчик решил написать код для базовой функции сортировки пузырьком, или bubble sort. Он просто написал комментарий, чтобы программа поняла, чего именно от нее ждут:

Ghostwriter прекрасно справился с поставленной целью за несколько секунд.

Программа платная и имеет несколько вариантов подписки: $0,01 за каждый цикл или $7 в месяц за доступ без ограничений.

Также есть бесплатная пробная версия на 14 дней и бесплатный пакет, чтобы посмотреть, какие функции есть в Ghostwriter в целом.

SciSpace

SciSpace — это онлайн-сервис для анализа и объяснения сложного научного текста простым языком. Он очень похож и по формату, и системе работы на Explainpaper, но его функционал чуть шире. Сервис поддерживает множество языков, в том числе и русский. Также есть возможность выбрать нужную статью прямо на сайте, без необходимости предварительно ее скачивать.

Сначала сервис был протестирован на английском языке. Для этого использована та же статья про депрессию и выделен отрывок, в котором рассказывается про устойчивость мозга к антидепрессантам.

Текста стало меньше, а выжимка, которая получилась, действительно стала гораздо проще для понимания. В первом случае было много сложных слов о взаимодействии препаратов, а в выжимке только главная мысль, ради которой и стоило прочесть этот отрывок.

Для второго примера мы взяли научную статью про период готической архитектуры, которая будет сложной для понимания новичков. Текст выбрали на русском языке, чтобы также посмотреть, насколько хорошо сервис работает в этом случае.

Мы взяли отрывок, в котором главной мыслью было то, что готический стиль по сравнению с романским лучше, функциональнее и визуально легче. В результате уложились в одно предложение и передали главное. Вот что сделал SciSpace:

Сервис ничуть не упростил текст, а скорее усложнил его в два раза, настолько, что его практически нельзя прочитать. На этот раз SciSpace однозначно не справился. Возможно, дело в русском языке.

Сервис можно использовать при чтении статей на русском только для расшифровки незнакомых слов:

SciSpace абсолютно бесплатный и доступен после простой регистрации. В целом сервис можно рекомендовать, как дополнение, которое может слегка облегчить чтение научной литературы.

Google Translation Hub

Translation Hub — это облачный инструмент для перевода документов на основе нейросети, который рассчитан на многонациональные компании. Он пригодится для быстрого и качественного перевода на 135 языков, чтобы каждый сотрудник чувствовал себя комфортно на работе.

Немаловажно, что при переводе сохраняется форматирование документа, а сам процесс занимает несколько минут. Хотя обычно сотрудникам приходилось ждать его неделями.

Цены на перевод зависят от пакета и количества страниц. На базовом уровне стоимость одной страницы составляет $0,15, а на продвинутом уровне $0,50.

Если сравнивать эти суммы с оплатой за человеческий ресурс, то подключить Translation Hub будет гораздо дешевле. При этом на результат перевода не будет влиять самочувствие или другой человеческий фактор. Также разработчики утверждают, что со временем качество переводов для каждой отдельной компании будет только расти, так как нейросеть будет обучаться на ее документах.

Turn your article into a cover image

Этот новый интересный сервис создает обложку для статьи на основе ее содержимого. Turn your article into a cover работает также на базе ИИ, и мы решили протестировать, насколько хороший результат он показывает.

Для начала взяли статью на русском языке про криптовалюту, чтобы посмотреть, воспринимает ли сервис русский язык в целом:

Результат получился очень странным и мало соотносящийся с содержимым статьи. Русский язык программа не понимает, тогда пробуем то же самое, но на английском:

Вот и результат:

Опять странный результат, но тут уже оправданий нет. Мы решили проверить, генерирует ли нейросеть просто рандомные картинки или хоть как-то считается с содержимыми. Для этого написали короткий рецепт борща на русском:

Пока что это выглядит как просто рандомные картинки с машинами из интернета, которые не имеют ничего общего с текстом. Пробуем взять статью про продажу ювелирных изделий на английском, как последнюю попытку:

В этот раз хотя бы уже магазин, что-то более-менее перекликающееся с содержимым статьи. Конечно, нет ничего про ювелирные изделия, но уже хоть что-то.

В целом, сервис — просто очередной мыльный пузырь, который ничего из себя не представляет. Не рекомендуем тратить на это время.

Заключение

Большинство программ, которые мы сегодня обозревали, действительно показывают отличные результаты и могут помогать в работе. В большей степени нейросети будут эффективны для программистов и копирайтеров, помогая сэкономить время на рутинном написании кода и статей.

Новые программы выходят каждую неделю, и все это только начало. Дальше мы увидим еще более развитые и умные нейросети, которые станут незаменимыми помощниками в повседневной жизни.

Подписывайтесь на наш Telegram-канал, чтобы первым узнавать о выходе самых интересных статей, новостей и скандалов в сфере онлайн-манимейкинга.

Бредогенератор: создаем тексты на любом языке с помощью нейронной сети

Привет, Хабр.

Эта статья будет в немного «пятничном» формате, сегодня мы займемся NLP. Не тем NLP, про который продают книжки в подземных переходах, а тем, который Natural Language Processing — обработка естественных языков. В качестве примера такой обработки будет использоваться генерация текста с помощью нейронной сети. Создавать тексты мы сможем на любом языке, от русского или английского, до С++. Результаты получаются весьма интересными, по картинке уже наверно можно догадаться.

Для тех, кому интересно что получается, результаты и исходники под катом.

Подготовка данных

Для обработки мы будем использовать особенный класс нейронных сетей — так называемые рекуррентные нейронные сети (RNN — recurrent neural network). Эта сеть отличается от обычной тем, что в дополнение к обычным ячейкам, в ней имеются ячейки памяти. Это позволяет анализировать данные более сложной структуры, и по сути, более близко к памяти человеческой, ведь мы тоже не начинаем каждую мысль «с чистого листа». Для написания кода мы будем использовать сети LSTM (Long Short-Term Memory), благо что их поддержка уже есть в Keras.

Следующая проблема, которую нужно решить, это собственно, работа с текстом. И здесь есть два подхода — подавать на вход либо символы, либо слова целиком. Принцип первого подхода прост: текст разбивается на короткие блоки, где «входами» является фрагмент текста, а «выходом» — следующий символ. Например, для последней фразы ‘входами является фрагмент текста’:

input: входами является фрагмент output: "т"
input: ходами является фрагмент т: output: "е"
input: одами является фрагмент те: output:"к"
input: дами является фрагмент тек: output: "с"
input: ами является фрагмент текс: output: "т".

И так далее. Таким образом, нейросеть получает на входе фрагменты текста, а на выходе символы, которые она должна сформировать.

Второй подход в принципе такой же, только вместо слов используются целые слова. Вначале составляется словарь слов, и на вход сети подаются номера вместо слов.

Это разумеется, достаточно упрощенное описание. Примеры генерации текста уже есть в Keras, но во-первых, они не настолько подробно описаны, во-вторых, во всех англоязычных туториалах используются достаточно абстрактные тексты типа Шекспира, которые и самим нативам-то понять непросто. Ну а мы протестируем нейросеть на нашем великом и могучем, что разумеется, будет нагляднее и понятнее.

Обучение сети

В качестве входного текста я использовал… комментарии Хабра, размер исходного файла составляет 1Мбайт (реально комментариев, конечно, больше, но пришлось использовать только часть, в противном случае нейросеть обучалась бы неделю, и читатели не увидели бы этот текст к пятнице). Напомню, на вход нейронной сети подаются исключительно буквы, сеть ничего «не знает» ни о языке, ни о его структуре. Поехали, запускаем обучение сети.

5 минут обучения:

Пока что ничего не понятно, но уже можно видеть некоторые узнаваемые сочетания букв:

волит что все как как день что на страчает на вы просто пробравили порумет которы и спонка что в примом не прогыли поделе не повому то крабит. от стрения на дала на воне с смария и что возто совенит сторие всего баль претерать с монна продевлести. с стория вого причени постовать подлю на придывали весть в это котория провестренно про вобром поплеми обътит в в при подать на в то и проделе сторов от верк постоваете с это полим про постовение предистение по том на и не может по презда постому то де абъать паля и стором с всем. ну сторяе вобрить в то да можно по ваде «и посявать в гроста как в полем просто на вы постовуть долько в не в стор пеливают колое бас подереление

15 минут обучения:

Результат уже заметно лучше:

как по попросить что в мне отказать сильно то в том что большие сознания ком просто было в по можно в сибо в в разного на была возновали и в то бед на получались проблеме отвазал покому и в решить просто делаете сторони не объясно вы от зачем не больше не как же это в какой по томе по время в то не то контроком сбадать по подивали если объективная все спросила не как попредумаете спосновать помощит производить что вы в объем поможет полизать на разве в высать и с делать на интерникам или в проблеми и ваши военным что контента стране все не же он напоритали с советственно состояние на страни в смоль то на проводительно не проболе не то может в пользы только которые было не обычность

1 час обучения:

производитель по данной странах данных китайским состояниями проблемах и причин на то что не через никак то что я на самом деле она до восставить обычно противоречие и без страна и себе просто стало производства и сложно нам сигнал на деньги и с происходит при статье не только то в политическим стройхах все на них то что восприятие что все же как и может быть времени «способ отвечать» — в государство и все обычно на страхами по вашему сознании вот то что вам не производителься в проблемах и возможно по примеры в голову почему в время данных и состояние потому что вот только создание создавал по мировой интересная просто понятно само отношения проблема на понятие и мир не получится с года просто на войнами с точки зрения объяснения «поддавали что такое само не живот» деньги» — получится и правильно получается на страна и не очень раздали как это получилось

Почему-то все тексты оказались без точек и без заглавных букв, возможно обработка utf-8 сделана не совсем корректно. Но в целом, это впечатляет. Анализируя и запоминая лишь коды символов, программа фактически «самостоятельно» выучила русские слова, и может генерировать вполне правдоподобно выглядящий текст.

Не менее интересно и то, что программа неплохо «запоминает» стиль текста. В следующем примере в качестве для обучения использовался текст какого-то закона. Время тренировки сети 5 минут.

редакция пункта "с"и миновская область, новская область, курганская область, сверская область, коровская область, ивренская область, телегований, республика катания, международных договора российской федерации и субъектов российской федерации принимает постановления в соответствии с федеральным конституционным законом

А здесь в качестве входного набора использовались медицинские аннотации к лекарствам. Время тренировки сети 5 минут.

фармакокинетика показания
применение при нарушениях функции почек
собой и сонтерования на вспользования коли в сутавной дозы и воспалительных ястолочная применение мелоксикама и диклофенака в делеке применение при приеме внутрь ингибированием форма выпуска составляет в состорожно по этом сумптом в зависимости з инисилостической составляет при приеме внутрь и препаратами препаратами, с препаратами и гипольком, в течение в плазменость к активность и дозы не указания синтеза простагландинов

Здесь мы видим практически целые фразы. Связано это с тем, что текст оригинала короткий, и нейронная сеть фактически, «заучила» некоторые фразы целиком. Такой эффект называется «переобучением», и его стоит избегать. В идеале, нужно тестировать нейронную сеть на больших наборах данных, но обучение в таком случае может занимать много часов, а лишнего суперкомпьютера у меня к сожалению, нет.

Забавным примером использования такой сети является генерация имен. Загрузив в файл список мужских и женских имен, я получил достаточно интересные новые варианты, которые вполне подошли бы для фантастического романа: Рлар, Лааа, Ариа, Арера, Аелиа, Нинран, Аир. Чем-то в них чувствуется стиль Ефремова и «Туманности Андромеды»…

С++

Интересно то, что по большому счету, нейронной сети всё равно что запоминать. Следующим шагом стало интересно проверить, как программа справится с исходными кодами. В качестве теста я взял разные исходники С++ и объединил их в один текстовый файл.

Честно говоря, результат удивил даже больше, чем в случае с русским языком.

5 минут обучения

Блин, это же практически настоящий С++.

if ( snd_pcm_state_channels = 0 ) {
        errortext_ = "rtapialsa::probedeviceopen: esror stream_.buffer stream!";
        errortext_ = errorstream_.str();
        goto unlock;
}

if ( stream_.mode == input && stream_.mode == output || false;
        if ( stream_.state == stream_stopped ) {
        for ( unsigned int i=0; i<stream_.nuserbuffer[i] ) {
        for (j=0; j<info.channels;
      }
    }
}

30 минут обучения

void maxirecorder::stopstream()
{
    for (int i = 0; i < ainchannels; i++ ) {
        int input=(stream, null;
        conternallock( pthread_cond_wate);
        // this should not ported to the device is a structure are is and the stream the buffer of the interleaved as and the probe the arauliored format for the the stream os and the software and the supported of the is so a a is set the directsound of allocates the reset and real the read the setup the buffer
        // this is the setup to the the devices.
        // asio will open the supported by the supported buffer are asioned structure.
        // this should not have to setup the counting and the proper in the position we mast it alw the aftware configuration.
        // this is the the stream and probe the supported be audio for sched/ond changed to this the sample rate it in the counting the fres
        // mecorend.
            windevoppart( null, 0, &phase );
            possint=>buffersize( 1, bufferlist);
        }
        }
}
///*********************************************
void maxirecorder::abortdevice( device ) {
    if (cout << aindeff( thread_cont_start);
    for (int i = 0; i < sample_rates[0]) {
        if (count == int) {
            std::cout << "checksing of convernion allocation handler (" << device << ").";
          errortext_ = errorstream_.str();
          return failure;
      }
    }
  }

  if ( stream_.userbuffer[i] ) {
    errortext_ = "rtapicore::probedeviceopen: system error (" << geterrorcode( result ) << ") getting stream configuration info state.";
    error( rterror::warning );
    return;
  }

  if ( stream_.mode == output || stream_.mode == duplex ) {
    callbackinfo *info = (const char *) callback( stream_.userbuffer[1], stream_.convertinfo[0] );
    return info;
  }

  // setup buffer callback for conversion on do any the supported be audio bet that al alinums be of support of the supported buffer
  // the buffer size a stream and buffers.
  info.name = dsdevices[ device ];
  return 0;
}

Как можно видеть, программа «научилась» писать уже целые функции. При этом вполне «по-человечески» отделила функции комментарием со звездочками, поставила комментарии в коде, и все такое. Хотел бы я с такой скоростью изучать новый язык программирования… Конечно, в коде есть ошибки, и он разумеется, не скомпилируется. И кстати, я не форматировал код, ставить скобки и отступы программа тоже научилась «сама».

Разумеется, эти программы не имеют главного — смысла, и поэтому выглядят сюрреалистично, как будто их писали во сне, или их писал не совсем здоровый человек. Но тем не менее, результаты впечатляют. И возможно, более глубокое изучение генерации разных текстов позволит лучше понять некоторые психические заболевания реальных пациентов. Кстати, как подсказали в комментариях, такое психическое заболевание, при котором человек говорит грамматически связанным, но совершенно бесмыссленным текстом (шизофазия), действительно существует.

Заключение

Реккуретные нейронные сети считаются весьма перспективными, и это действительно, большой шаг вперед по сравнению с «обычными» сетями вроде MLP, не имеющих памяти. И действительно, возможности нейронных сетей по запоминанию и обработке достаточно сложных структур, впечатляют. Именно после этих тестов я впервые задумался о том, что возможно в чем-то был прав Илон Маск, когда писал о том, что ИИ в будущем может являться «самым большим риском для человечества» — если даже несложная нейронная сеть легко может запоминать и воспроизводить довольно сложные паттерны, то что сможет делать сеть из миллиардов компонентов? Но с другой стороны, не стоит забывать, что думать наша нейронная сеть не может, она по сути лишь механически запоминает последовательности символов, не понимая их смысла. Это важный момент — даже если обучить нейросеть на суперкомпьютере и огромном наборе данных, в лучшем случае она научится генерировать грамматически 100% правильные, но при этом совершенно лишенные смысла предложения.

Но не будет удаляться в философию, статья все же больше для практиков. Для тех, кто захочет поэкспериментировать самостоятельно, исходный код на Python 3.7 под спойлером. Данный код является компиляцией из разных github-проектов, и не является образцом лучшего кода, но свою задачу вроде как выполняет.

Использование программы не требует навыков программирования, достаточно знать как установить Python. Примеры запуска из командной строки:
— Создание и обучение модели и генерация текста:
python .keras_textgen.py —text=text_habr.txt —epochs=10 —out_len=4000
— Только генерация текста без обучения модели:
python .keras_textgen.py —text=text_habr.txt —epochs=10 —out_len=4000 —generate

import os
# Force CPU
os.environ["CUDA_VISIBLE_DEVICES"] = "-1"
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '3'  # 0 = all messages are logged, 3 - INFO, WARNING, and ERROR messages are not printed


from keras.callbacks import LambdaCallback
from keras.models import Sequential
from keras.layers import Dense, Dropout, Embedding, LSTM, TimeDistributed
from keras.optimizers import RMSprop
from keras.utils.data_utils import get_file
import keras
from collections import Counter
import pickle
import numpy as np
import random
import sys
import time
import io
import re
import argparse


# Transforms text to vectors of integer numbers representing in text tokens and back. Handles word and character level tokenization.
class Vectorizer:

    def __init__(self, text, word_tokens, pristine_input, pristine_output):
        self.word_tokens = word_tokens
        self._pristine_input = pristine_input
        self._pristine_output = pristine_output

        tokens = self._tokenize(text)
        # print('corpus length:', len(tokens))
        token_counts = Counter(tokens)
        # Sort so most common tokens come first in our vocabulary
        tokens = [x[0] for x in token_counts.most_common()]
        self._token_indices = {x: i for i, x in enumerate(tokens)}
        self._indices_token = {i: x for i, x in enumerate(tokens)}
        self.vocab_size = len(tokens)
        print('Vocab size:', self.vocab_size)

    def _tokenize(self, text):
        if not self._pristine_input:
            text = text.lower()
        if self.word_tokens:
            if self._pristine_input:
                return text.split()
            return Vectorizer.word_tokenize(text)
        return text

    def _detokenize(self, tokens):
        if self.word_tokens:
            if self._pristine_output:
                return ' '.join(tokens)
            return Vectorizer.word_detokenize(tokens)
        return ''.join(tokens)

    def vectorize(self, text):
        """Transforms text to a vector of integers"""
        tokens = self._tokenize(text)
        indices = []
        for token in tokens:
            if token in self._token_indices:
                indices.append(self._token_indices[token])
            else:
                print('Ignoring unrecognized token:', token)
        return np.array(indices, dtype=np.int32)

    def unvectorize(self, vector):
        """Transforms a vector of integers back to text"""
        tokens = [self._indices_token[index] for index in vector]
        return self._detokenize(tokens)

    @staticmethod
    def word_detokenize(tokens):
        # A heuristic attempt to undo the Penn Treebank tokenization above. Pass the
        # --pristine-output flag if no attempt at detokenizing is desired.
        regexes = [
            # Newlines
            (re.compile(r'[ ]?\n[ ]?'), r'n'),
            # Contractions
            (re.compile(r"b(can)s(not)b"), r'12'),
            (re.compile(r"b(d)s('ye)b"), r'12'),
            (re.compile(r"b(gim)s(me)b"), r'12'),
            (re.compile(r"b(gon)s(na)b"), r'12'),
            (re.compile(r"b(got)s(ta)b"), r'12'),
            (re.compile(r"b(lem)s(me)b"), r'12'),
            (re.compile(r"b(mor)s('n)b"), r'12'),
            (re.compile(r"b(wan)s(na)b"), r'12'),
            # Ending quotes
            (re.compile(r"([^' ]) ('ll|'re|'ve|n't)b"), r"12"),
            (re.compile(r"([^' ]) ('s|'m|'d)b"), r"12"),
            (re.compile(r'[ ]?”'), r'"'),
            # Double dashes
            (re.compile(r'[ ]?--[ ]?'), r'--'),
            # Parens and brackets
            (re.compile(r'([[({<]) '), r'1'),
            (re.compile(r' ([])}>])'), r'1'),
            (re.compile(r'([])}>]) ([:;,.])'), r'12'),
            # Punctuation
            (re.compile(r"([^']) ' "), r"1' "),
            (re.compile(r' ([?!.])'), r'1'),
            (re.compile(r'([^.])s(.)([])}>"']*)s*$'), r'123'),
            (re.compile(r'([#$]) '), r'1'),
            (re.compile(r' ([;%:,])'), r'1'),
            # Starting quotes
            (re.compile(r'(“)[ ]?'), r'"')
        ]

        text = ' '.join(tokens)
        for regexp, substitution in regexes:
            text = regexp.sub(substitution, text)
        return text.strip()

    @staticmethod
    def word_tokenize(text):
        # Basic word tokenizer based on the Penn Treebank tokenization script, but
        # setup to handle multiple sentences. Newline aware, i.e. newlines are
        # replaced with a specific token. You may want to consider using a more robust
        # tokenizer as a preprocessing step, and using the --pristine-input flag.
        regexes = [
            # Starting quotes
            (re.compile(r'(s)"'), r'1 “ '),
            (re.compile(r'([ ([{<])"'), r'1 “ '),
            # Punctuation
            (re.compile(r'([:,])([^d])'), r' 1 2'),
            (re.compile(r'([:,])$'), r' 1 '),
            (re.compile(r'...'), r' ... '),
            (re.compile(r'([;@#$%&])'), r' 1 '),
            (re.compile(r'([?!.])'), r' 1 '),
            (re.compile(r"([^'])' "), r"1 ' "),
            # Parens and brackets
            (re.compile(r'([][(){}<>])'), r' 1 '),
            # Double dashes
            (re.compile(r'--'), r' -- '),
            # Ending quotes
            (re.compile(r'"'), r' ” '),
            (re.compile(r"([^' ])('s|'m|'d) "), r"1 2 "),
            (re.compile(r"([^' ])('ll|'re|'ve|n't) "), r"1 2 "),
            # Contractions
            (re.compile(r"b(can)(not)b"), r' 1 2 '),
            (re.compile(r"b(d)('ye)b"), r' 1 2 '),
            (re.compile(r"b(gim)(me)b"), r' 1 2 '),
            (re.compile(r"b(gon)(na)b"), r' 1 2 '),
            (re.compile(r"b(got)(ta)b"), r' 1 2 '),
            (re.compile(r"b(lem)(me)b"), r' 1 2 '),
            (re.compile(r"b(mor)('n)b"), r' 1 2 '),
            (re.compile(r"b(wan)(na)b"), r' 1 2 '),
            # Newlines
            (re.compile(r'n'), r' \n ')
        ]

        text = " " + text + " "
        for regexp, substitution in regexes:
            text = regexp.sub(substitution, text)
        return text.split()


def _create_sequences(vector, seq_length, seq_step):
    # Take strips of our vector at seq_step intervals up to our seq_length
    # and cut those strips into seq_length sequences
    passes = []
    for offset in range(0, seq_length, seq_step):
        pass_samples = vector[offset:]
        num_pass_samples = pass_samples.size // seq_length
        pass_samples = np.resize(pass_samples,
                                 (num_pass_samples, seq_length))
        passes.append(pass_samples)
    # Stack our sequences together. This will technically leave a few "breaks"
    # in our sequence chain where we've looped over are entire dataset and
    # return to the start, but with large datasets this should be neglegable
    return np.concatenate(passes)


def  shape_for_stateful_rnn(data, batch_size, seq_length, seq_step):
    """
    Reformat our data vector into input and target sequences to feed into our RNN. Tricky with stateful RNNs.
    """
    # Our target sequences are simply one timestep ahead of our input sequences.
    # e.g. with an input vector "wherefore"...
    # targets:   h e r e f o r e
    # predicts   ^ ^ ^ ^ ^ ^ ^ ^
    # inputs:    w h e r e f o r
    inputs = data[:-1]
    targets = data[1:]

    # We split our long vectors into semi-redundant seq_length sequences
    inputs = _create_sequences(inputs, seq_length, seq_step)
    targets = _create_sequences(targets, seq_length, seq_step)

    # Make sure our sequences line up across batches for stateful RNNs
    inputs = _batch_sort_for_stateful_rnn(inputs, batch_size)
    targets = _batch_sort_for_stateful_rnn(targets, batch_size)

    # Our target data needs an extra axis to work with the sparse categorical
    # crossentropy loss function
    targets = targets[:, :, np.newaxis]
    return inputs, targets


def _batch_sort_for_stateful_rnn(sequences, batch_size):
    # Now the tricky part, we need to reformat our data so the first
    # sequence in the nth batch picks up exactly where the first sequence
    # in the (n - 1)th batch left off, as the RNN cell state will not be
    # reset between batches in the stateful model.
    num_batches = sequences.shape[0] // batch_size
    num_samples = num_batches * batch_size
    reshuffled = np.zeros((num_samples, sequences.shape[1]), dtype=np.int32)
    for batch_index in range(batch_size):
        # Take a slice of num_batches consecutive samples
        slice_start = batch_index * num_batches
        slice_end = slice_start + num_batches
        index_slice = sequences[slice_start:slice_end, :]
        # Spread it across each of our batches in the same index position
        reshuffled[batch_index::batch_size, :] = index_slice
    return reshuffled


def load_data(data_file, word_tokens, pristine_input, pristine_output, batch_size, seq_length=50, seq_step=25):
    global vectorizer

    try:
        with open(data_file, encoding='utf-8') as input_file:
            text = input_file.read()
    except FileNotFoundError:
        print("No input.txt in data_dir")
        sys.exit(1)

    skip_validate = True
    # try:
    #     with open(os.path.join(data_dir, 'validate.txt'), encoding='utf-8') as validate_file:
    #         text_val = validate_file.read()
    #         skip_validate = False
    # except FileNotFoundError:
    #     pass  # Validation text optional

    # Find some good default seed string in our source text.
    # self.seeds = find_random_seeds(text)
    # Include our validation texts with our vectorizer
    all_text = text if skip_validate else 'n'.join([text, text_val])

    vectorizer = Vectorizer(all_text, word_tokens, pristine_input, pristine_output)
    data = vectorizer.vectorize(text)
    x, y = shape_for_stateful_rnn(data, batch_size, seq_length, seq_step)
    print("Word_tokens:", word_tokens)
    print('x.shape:', x.shape)
    print('y.shape:', y.shape)

    if skip_validate:
        return x, y, None, None, vectorizer

    data_val = vectorizer.vectorize(text_val)
    x_val, y_val = shape_for_stateful_rnn(data_val, batch_size,
                                          seq_length, seq_step)
    print('x_val.shape:', x_val.shape)
    print('y_val.shape:', y_val.shape)
    return x, y, x_val, y_val, vectorizer


def make_model(batch_size, vocab_size, embedding_size=64, rnn_size=128, num_layers=2):
    # Conversely if your data is large (more than about 2MB), feel confident to increase rnn_size and train a bigger model (see details of training below).
    # It will work significantly better. For example with 6MB you can easily go up to rnn_size 300 or even more.
    model = Sequential()
    model.add(Embedding(vocab_size, embedding_size, batch_input_shape=(batch_size, None)))
    for layer in range(num_layers):
        model.add(LSTM(rnn_size, stateful=True, return_sequences=True))
        model.add(Dropout(0.2))
    model.add(TimeDistributed(Dense(vocab_size, activation='softmax')))
    model.compile(loss='sparse_categorical_crossentropy', optimizer='rmsprop', metrics=['accuracy'])
    return model


def train(model, x, y, x_val, y_val, batch_size, num_epochs):
    print('Training...')
    # print("Shape:", x.shape, y.shape)
    # print(num_epochs, batch_size, x[0], y[0])
    train_start = time.time()
    validation_data = (x_val, y_val) if (x_val is not None) else None
    callbacks = None
    model.fit(x, y, validation_data=validation_data,
                    batch_size=batch_size,
                    shuffle=False,
                    epochs=num_epochs,
                    verbose=1,
                    callbacks=callbacks)
    # self.update_sample_model_weights()
    train_end = time.time()
    print('Training time', train_end - train_start)


def sample_preds(preds, temperature=1.0):
    """
    Samples an unnormalized array of probabilities. Use temperature to
    flatten/amplify the probabilities.
    """
    preds = np.asarray(preds).astype(np.float64)
    # Add a tiny positive number to avoid invalid log(0)
    preds += np.finfo(np.float64).tiny
    preds = np.log(preds) / temperature
    exp_preds = np.exp(preds)
    preds = exp_preds / np.sum(exp_preds)
    probas = np.random.multinomial(1, preds, 1)
    return np.argmax(probas)


def generate(model, vectorizer, seed, length=100, diversity=0.5):
    seed_vector = vectorizer.vectorize(seed)

    # Feed in seed string
    print("Seed:", seed, end=' ' if vectorizer.word_tokens else '')
    model.reset_states()
    preds = None
    for char_index in np.nditer(seed_vector):
        preds = model.predict(np.array([[char_index]]), verbose=0)

    sampled_indices = []  # np.array([], dtype=np.int32)
    # Sample the model one token at a time
    for i in range(length):
        char_index = 0
        if preds is not None:
            char_index = sample_preds(preds[0][0], diversity)
        sampled_indices.append(char_index)  # = np.append(sampled_indices, char_index)
        preds = model.predict(np.array([[char_index]]), verbose=0)
    sample = vectorizer.unvectorize(sampled_indices)
    return sample



if __name__ == "__main__":

    batch_size = 32  # Batch size for each train
    num_epochs = 10  # Number of epochs of training
    out_len = 200  # Length of the output phrase
    seq_length = 50  # 50  # Determines, how long phrases will be used for training
    use_words = False   # Use words instead of characters (slower speed, bigger vocabulary)
    data_file = "text_habr.txt"  # Source text file
    seed = "A"  # Initial symbol of the text

    parser = argparse.ArgumentParser()
    parser.add_argument("-t", "--text", action="store", required=False, dest="text", help="Input text file")
    parser.add_argument("-e", "--epochs", action="store", required=False, dest="epochs", help="Number of training epochs")
    parser.add_argument("-p", "--phrase_len", action="store", required=False, dest="phrase_len", help="Phrase analyse length")
    parser.add_argument("-o", "--out_len", action="store", required=False, dest="out_len", help="Output text length")
    parser.add_argument("-g", "--generate", action="store_true", required=False, dest='generate', help="Generate output only without training")
    args = parser.parse_args()
    if args.text is not None:
        data_file = args.text
    if args.epochs is not None:
        num_epochs = int(args.epochs)
    if args.phrase_len is not None:
        seq_length = int(args.phrase_len)
    if args.out_len is not None:
        out_len = int(args.out_len)

    # Load text data
    pristine_input, pristine_output = False, False
    x, y, x_val, y_val, vectorizer = load_data(data_file, use_words, pristine_input, pristine_output, batch_size, seq_length)

    model_file = data_file.lower().replace('.txt', '.h5')

    if args.generate is False:
        # Make model
        model = make_model(batch_size, vectorizer.vocab_size)
        # Train model
        train(model, x, y, x_val, y_val, batch_size, num_epochs)
        # Save model to file
        model.save(filepath=model_file)

    model = keras.models.load_model(model_file)
    predict_model = make_model(1, vectorizer.vocab_size)
    predict_model.set_weights(model.get_weights())

    # Generate phrases
    res = generate(predict_model, vectorizer, seed=seed, length=out_len)
    print(res)

Думаю, получился вполне

забористый

работающий генератор текстов,

который пригодится для написания статей на Хабр

. Особенно интересно тестирование на больших текстах и больших количествах итераций обучения, если у кого есть доступ к быстрым компьютерам, было бы интересно увидеть результаты.

Если кто захочет изучить тему более подробно, хорошее описание использования RNN с детальными примерами есть на странице http://karpathy.github.io/2015/05/21/rnn-effectiveness/.

P.S.: И напоследок, немного стихов Интересно заметить, что и форматирование текста и даже добавление звездочек делал не я, «оно само». Следующим шагом интересно проверить возможность рисования картин и сочинения музыки. Думаю, нейронные сети тут достаточно перспективны.

x x x

И последние несколько стихов в режиме обучения по словам. Тут пропала рифма, зато появился (?) некий смысл.

а ты, от пламень,
звезды.
говорили далекие лицам.

Пока нейросети не могут заменить штат сотрудников, но технический прогресс уже движется к «творческим» профессиям неудержимым катком. Искусственный интеллект способен писать продающие тексты, делать цепляющие видео и креативные дизайн-проекты, генерировать названия и брендовый стиль. Редакция Pressfeed.Журнала разобралась, какие нейросети можно использовать для создания контента и как они работают.

Нейросети для создания текста

Копирайтеры, подвиньтесь — нейросети умеют неплохо писать отзывы, посты, анонсы, рекламные тексты, статьи и даже стихи. К счастью для отрасли, пока машины не могут выдать полную и оригинальную статью — тексты приходится отшлифовывать вручную, добавлять экспертное мнение, проверять данные.

Нейросети справляются только с короткими текстами, им не дотянуться до лавр Льва Толстого и даже не осилить лонгриды. Однако алгоритмы все же способны помочь маркетологам с коммерческими текстами, постами для соцсетей, письмами-рассылками и заголовками. 

1. RuGPT-3

Генератор текста от «Сбера» может работать в разных стилях: деловом, художественном или научном. Все просто: пишете короткий анонс рецензии, отзыва, комментария или поста — система выдает осмысленный текст. Также ИИ исправляет орфографические ошибки, может вести диалог и написать программный план.  

Чтобы посмотреть приложение изнутри и протестировать интерфейс, придется запросить демо и предоставить данные о компании. 

«5 шагов к гарантированной публикации». Скачайте прямо сейчас

Цена: приложение платное (цена по запросу), есть бесплатная бета-версия с ограничениями. 

2. CopyMonkey

Программа создает тексты для отзывов, сайтов и лендингов, посты для соцсетей, описания видео на YouTube, статьи и SEO-тексты, комментарии для блогов. 

Для создания текста выбираем формат, например, пост для блога и социальных сетей, вводим нужную нам тему: «Как получить публикацию в СМИ бесплатно». Вот что нам выдает нейросеть.

«Вы хотите бесплатно получить свой бизнес или продукт в СМИ? Вот несколько советов о том, как это сделать:

1. Сделайте свое исследование. Узнайте, какие средства массовой информации, скорее всего, будут заинтересованы в вашей истории. Нацеливание на меньшие, нишевые публикации часто более эффективны, чем выходить на громкие имена.

2. Построить отношения. Познакомьтесь с редакторами, писателями и продюсерами в ваших целевых средствах массовой информации. Отправляйте им информацию о вашем бизнесе или продукте на регулярной основе.

3. Сделайте это легко. Когда вы наконец свяжитесь с журналистом о своей истории, убедитесь, что у вас есть все факты и цифры, которые им нужны. Наличие пресс -комплекта, готового к работе, сделает их работу намного проще.

4. Предложите что-то уникальное. Будьте достойны новости! Убедитесь, что ваша история интересна и актуальна для их аудитории.

5. Последуйте. После того как вы отправите свою информацию журналисту, следуйте, чтобы убедиться, что они получили ее, и посмотреть, есть ли у них какие-либо вопросы.

Следуя этим советам, вы увеличите свои шансы на участие в средствах массовой информации и, самое главное, это ничего не будет стоить». 

Конечно, текст требует редакторской работы, но за несколько секунд SMM-специалист может получить вполне связный пост для соцсетей. 

Цена: бесплатно генерирует 3 текста в день, есть подписка. Стартовый тариф — 1599 руб. в месяц; профи — 7999 руб. в месяц; для крупных бизнес-задач цена по запросу.  

3. Anyword 

Искусственный интеллект Anyword не только создает тексты, но и прогнозирует их производительность, повышает конверсию и трафик со статей и постов. Система анализирует целевую аудиторию и оптимизирует тексты под запросы ваших пользователей. Anyword подойдет и для коротких постов, и для заметок побольше. 

Допустим, нам надо придумать цепляющее название поста для соцсетей. Указываем основную тему в свободной форме: «Как получить публикации в СМИ?». Далее система просит описать целевую аудиторию и указать ее болевые точки. 

Вот такие варианты заголовков предлагает нейросеть для нашего поста. При этом система указывает, какие из них будут лучше конвертироваться. Очевидно, не все заголовки, придуманные программой, выглядят действительно хорошо — ИИ явно сбойнул на слове «СМИ» и решил расшифровать его для недогадливых читателей. Однако наиболее конверсионный, с точки зрения нейросети, заголовок и правда смотрится неплохо для рекламного поста. 

Еще нейросеть может сгенерировать «идеальный» слоган для вашего бизнес-продукта. Вводите название товара и его краткое описание, и через секунду на экране появятся возможные заголовки вашей пиар-кампании.

Цена: бесплатная подписка на неделю, далее от 19$ в месяц для стартапов, для бизнеса — от 239$ в месяц.  

Нейросети для нейминга и создания логотипов

Есть концепция, бизнес-план, команда, но проблемы с названием бренда? Нейросети для нейминга не только подберут подходящее имя для стартапа, но и придумают фирменный стиль или логотип для проекта. 

4. Namelix

Простая и удобная программа для тех, кто не может определиться с названием стартапа. Сервис для нейминга работает в паре с нейросетью для создания стиля бренда (о ней расскажем ниже).

Чтобы сгенерировать названия, введите в поле поиска ключевые слова, выберите случайность генерации: низкая (выдает самые очевидные идеи названия), средняя (здесь уже больше фантазии) и высокая (подбирает незаурядные варианты). Дальше вам надо определиться со стилем названия: альтернативное написание, составные слова, язык, количество слов. После заполнения всех настроек сервис бесплатно выдает вам множество вариантов с пояснением к каждому названию.

Цена: бесплатно.

5. Brandmark

Нейросеть работает в паре с программой Namelix. Когда вы определитесь с названием бренда, сервис сразу предложит разработать дизайн логотипа, визитных карточек и сайта компании. Алгоритм поможет определиться со стилем, посоветует более выигрышные варианты, ответит на все возникающие вопросы. 

Чтобы запустить генератор, введите название бренда и слоган, пропишите ключевые слова, по которым вас будут искать потенциальные клиенты, и выберите цветовую гамму вашего проекта. Буквально через несколько минут нейросеть выдаст множество непохожих друг на друга дизайн-решений на любой вкус. 

Готовые изображения можно изменять, редактировать цвета и текст. В наборе картинок, которые предлагает программа, есть интересные варианты — некоторые из них действительно похожи на наш логотип.

Цена: бесплатно с ограничениями, есть платные пакеты от 25$ (оплачивается единовременно, без подписки).

6. Looka

Нейросеть обладает полным инструментарием для брендинга. Вы можете создать полноценный брендбук: от логотипа до визитных карточек, шаблонов постов и дизайнерских кейсов. Looka — отличный источник для вдохновения, платформа содержит шаблоны логотипов известных брендов по отраслям, что очень удобно.

Вначале система просит выбрать из готовых шаблонов понравившиеся, определиться с цветовой палитрой, после чего нужно ввести название компании и слоган. Далее выбираете ключевые слова (сервис сам предлагает их) и получаете стильные дизайнерские решения для логотипа вашего бренда. Правда придется переводить весь текст на английский язык, алгоритмы распознают только его.

Цена: бесплатно с ограничениями, есть платный пакет. В профессиональной версии 3 варианта тарифов от 1210 руб. в месяц. Площадка позволяет сохранять ваши проекты до оплаты.

7. Turbologo

Российская IT-разработка, нейросеть без помощи дизайн-студии сгенерирует логотип под ваш запрос. Алгоритм создает эмблему бренда на основе понравившихся вам палитр, стилей и иконок. 

Принцип работы нейросети тот же, что и у предшественниц. Указываете название компании, слоган, сферу деятельности — получаете готовый логотип. Вот что нам выдала система на запрос логотипа компании Pressfeed со слоганом «Публикации в СМИ — это легко». Сервис предоставляет такое бессчетное количество вариантов, что мы устали листать ленту.

Цена: бесплатно можно генерировать неограниченное количество логотипов, платить придется за скачивание материалов. Доступно 3 тарифа от 790 руб. за 3 месяца. 

8. Николай Иронов — дизайнер и нейросеть

Николай Иронов — эксклюзивный проект «Студии Артемия Лебедева». Интересно, что команда Лебедева в течение целого года управляла искусственным интеллектом, а пользователи думали, что работы создавал реальный дизайнер.

Платформа генерирует логотипы, не обсуждая результат с заказчиком (и это скорее проблема, чем плюс). Машина сама выполняет задания по условной технической карте.

Цена: стандартный тариф — 19900 руб., промо — 29900 руб.

Нейросети для создания картинок и видео

9. Dream by WOMBO

Нейросеть Dream by WOMBO создает картинки по заданным с помощью текста и настроек параметрам. Программа бесплатно генерирует абстрактные картинки. Чтобы получить изображение, просто напишите слово или фразу и выберите стиль. 

Например, нейросеть сгенерировала нам картинки по заданной фразе «Нейросети захватят мир». Что ж, получилась очень подходящая иллюстрация. Если запустить поиск снова, мы получим еще несколько вариантов.

Цена: бесплатно.

10. Pictory

Нейросеть Pictory будет незаменимым помощником маркетологам, блогерам, менеджерам соцсетей, создателям курсов — площадка нацелена на генерацию видеоконтента. 

Программа может написать скрипты к видео, смонтировать длинные ролики, расшифровать или отредактировать их с помощью текстовых команд.

Цена: бесплатная версия разрешит сгенерировать 3 коротких видео, есть платные тарифы. Стоимость расширенных версий от 19$ в месяц, можно выбрать спецтариф для крупных компаний. 

11. Veed.io

Veed.io — онлайн-редактор видео с достаточно простым интеллектуальным алгоритмом. Внутри программы есть широкий выбор иконок, картинок, видео, анимаций, из которых система создает готовые ролики. Нейросеть в основном помогает работать с аудио, субтитрами и транскрипцией. 

Если у вас нет даже базовых знаний графического редактирования, система быстро сориентирует вас. Внутри сервиса можно пользоваться фото- и видеоредактором, работать с субтитрами и транскрипцией, записывать аудио, видео.

Цена: бесплатный тариф позволяет создавать короткие проекты, платные пакеты стоят от 12$ в месяц. 

12. Autodraw

Программа конвертирует черновые «каракули» в полноценные картинки. Графический редактор поможет создать простые эмблемы и иконки.

Вначале пользователи сами рисуют наброски, потом включают «Авторисовку», и нейросеть предлагает разные варианты готовых иконок. 

Иногда алгоритм может выдать на ваши импрессионистские черновики совсем не те фигуры, которые вы ожидали. Нам понадобилось чуть больше времени на то, чтобы система распознала в наших каракулях листок и газету. Но потом наметился прогресс — площадка сразу выдала нужную иконку. 

Что в итоге?

Искусственный интеллект — это все равно машина, поэтому почти любому контенту, созданному в нейросети, как минимум нужна доработка. Работники креативной сферы могут вздохнуть спокойно — нейросети пока не собираются убирать нас с рынка. Но  если в штате компании нет копирайтеров, дизайнеров, контент-менеджеров или просто случился кризис вдохновения, нейросети помогут сэкономить время и деньги на коротких постах, логотипах, картинках и видео. 

Расскажу, как нейросети генерируют текст, какие есть сервисы на рынке, какой контент они напишут лучше, а какой хуже.

Сегодня нейросети способны генерировать осмысленный текст за несколько секунд. Технология представлена в ряде сервисов, которые позволяют заметно ускорить производство текстового контента определённого формата.

Как нейросеть генерирует текст

Нейросеть — это алгоритм искусственного интеллекта, если точнее — метод машинного обучения. Алгоритм, используя данные, должен решить определённую задачу, в процессе работы он учится находить закономерности в этих данных и автоматически их обрабатывать. Алгоритмы представляют данные в виде чисел и взаимодействуют с ними математически.

Востребованная сегодня задача — это обработка естественного языка, или NLP (Natural Language Processing). Простыми словами, это технология, которая позволяет машинам “понимать” человеческие языки. В задачу NLP входит работа с текстом. Нейросети способны устанавливать смысловые связи между словами с учётом их контекста, а также генерировать новый осмысленный текст.

На основе нейросетей работают сервисы, которые создают различный текстовый контент. Они напишут электронную рассылку, отзыв о товаре, введение и отдельные абзацы для статьи . Могут сгенерировать идеи и релевантные заголовки и даже писать текст по маркетинговой модели AIDA и PAS.

Прежде чем перейти к конкретным примерам, кратко расскажу, как нейросети генерируют текст и извлекают из него смысл. Лучше всего с данной задачей справляются нейросети-трансформеры. При обработке текста трансформер представляет каждый его элемент (токен) в виде вектора, группы чисел, и работает с ним отдельно, производя математические операции. Это позволяет нейросети учесть порядок слов и их взаимное влияние друг на друга и таким образом, определить смысловое содержание текста.

На основе трансформеров создаются гигантские языковые модели, перед ними ставят задачу языкового моделирования: нейросети дают текст, а она должна его продолжить. Чтобы научиться этому, нейросеть запоминает, как устроен язык, и узнаёт разные факты о внешнем мире, для этого используют огромные массивы текстов из интернета, которые охватывают весь спектр тем. В результате такая модель способна решить новую текстовую задачу с ходу без дополнительного обучения — это так называемый Few-shot learning.

Сервисы для генерации текста

Покажу на примере модели ruGPT-3 (Generative Pre-trained Transformer 3), как трансформер продлевает предложенный ему текст.

Эти тесты опубликованы Татьяной Шавриной, одним из разработчиков данной модели.

Получив затравку, где есть любимые фильмы человека, модель сразу сгенерировала несколько вариантов фильмов похожих жанров.

Затравка: Мои любимые фильмы — “Матрица”, “Олдбой”, “

“ruGPT-3 Large: Мои любимые фильмы — “Матрица”, “Олдбой”, “Крёстный отец”, “Игра в имитацию”, “Остин Пауэрс”.

ruGPT-3 Large: Мои любимые фильмы — “Матрица”, “Олдбой”, “Спасение рядового Райана”, “Нечто”, “Затура”.

ruGPT-3 Large: Мои любимые фильмы — “Матрица”, “Олдбой”, “Эквилибриум” и др.

Текст для затравки кавычкой не закрыли, поэтому модель генерировала имена собственные.

Пример более сложной задачи — генерация отзыва, где надо вести себя, как человек.

Затравка: “Напиши отзыв о стиральной машине. Данная модель стиральной машины”

ruGPT-3 Large: “Напиши отзыв о стиральной машине. Данная модель стиральной машины оснащена встроенной функцией самоочистки. В конструктивном решении стиральной машины предусмотрено устройство автоматического затирания воды, которая способна удалять накипь и прочие загрязнения даже в труднодоступных местах. Стоит отметить, что после процедуры чистки, во время отжима появляется специфический запах. У некоторых моделей, в результате эксплуатации, он сохраняется в течение всего срока службы стиральной машины.”

Затравка: Напиши отзыв о фильме. Фильм «1+1»

ruGPT-3 Large: Напиши отзыв о фильме. Фильм «1+1» — очень нравится, хотя и смотреть его стоит не каждому. Актёрский состав в нём великолепен. Смотрится без особого напряжения и с интересом. В фильме очень много смешных моментов. Так же советую посмотреть фильм «Зелёная книга», также фильм с Дженнифер Лопес и Крисом де Бургом.

В целом модель способна продолжать текст на любую тему и её можно использовать для копирайтинга. Помимо генерации, модель умеет работать с разными текстовыми задачами. Она применима:

RuGPT-3 обучали на 600 Гб информации, куда вошла коллекция русской литературы, “Википедия”, новостные ресурсы и сайты с вопросами и ответами. Самая крупная версия модели имеет 13 млрд параметров: чем больше их число, тем более сложные закономерности модель сможет выучить.

Для тестовой генерации есть демоверсия. Чтобы использовать модель полноценно, придётся зарегистрироваться как юрлицо на платформе ML space. За плату модель получиться гибко настроить под необходимую задачу. Если есть навыки в разработке это можно сделать самому, другой вариант обратиться за помощью к специалистам из сбера.

Русскоязычная модель является аналогом трансформера GPT-3 от разработчиков OpenAI. Она усвоила 600 Гб текста и имеет 175 млрд параметров. Модель можно использовать практически в любых задачах, связанных с текстом на английском языке. GPT-3 — одна из самых больших нейросетей для генерации текста. Статистика показывает, что её используют более 300 приложений от коммерческих до игровых, а в день она в среднем генерирует 4,5 миллиарда слов.

Разработчики предлагают несколько вариаций моделей, подходящих под разные задачи, есть возможность настроить собственную. Нейросеть генерирует текст на английском, платить придётся за каждые 1000 токенов это приблизительно 750 слов, цена зависит от модели, начинается от $0,0008. Однако из России регистрация не пройдёт, придётся использовать другую почту и зарубежный номер телефона.

Гораздо проще использовать сервисы-генераторы, они сразу готовы к работе и рассчитаны на обычного пользователя. Расскажу о тех, что могут писать текст на русском.

На основе GPT-3 действует Jasper AI — это сервис по созданию текстового контента для сайта, личного блога, социальных сетей и много другого. Jasper поддерживает 25 языков, в том числе и русский, его тексты оптимизированы под SEO и не содержат плагиата. Сервис имеет свыше 50-ти шаблонов, каждый нацелен на конкретное применение.

Например, есть шаблоны, которые пишут текст по маркетинговым моделям AIDA и PAS.

На скриншоте работа с шаблоном AIDA. Слева вносится имя продукта и его краткое описание и выбирается характер текста. В данном случае выбран «остроумный». Справа — результат генерации. Процесс занимает несколько секунд.

По такому принципу работают все другие сервисы-генераторы: вы даёте краткую информацию того, что хотите получить, и нейросеть создаёт текст, отталкиваясь от этих данных.

Другие навыки Jasper подойдут под написание поста, письма, генерации идей, заголовков для статьи и т.д. Минимальный тарифный план стоит $29 в месяц и имеет ограничение в 20 тысяч слов. Можно получить 5 дней бесплатного использования, но потребуется привязка карты. Карты российских банков не подойдут, поэтому в конце статьи оставлю ссылку на материал, где показаны способы оплаты зарубежных сервисов.

Большой набор навыков для написания разного контента предлагают платформы Outranking, Writesonic и Rytr. Все зарубежные, но поддерживают русский язык.

Outranking выделяется тем, что имеет гораздо больше инструментов для SEO, чем его аналоги. Распространяется платно, месячная подписка от $49 даёт сгенерировать 60 тыс. слов и предлагает 10 текстовых материалов для SEO-настройки. Годовая от $499, в месяц выходит $41.58 c тем же лимитом возможностей.

Создатели Writesonic отмечают, что модель была обучена на качественных текстах ведущих брендов. Сервис дают испытать бесплатно, предоставляя приблизительно 5 тыс. слов, подписка от $15 в месяц с ограничением в 50 тыс. слов.

Rytr, похоже, самый экономичный вариант, бесплатный тарифный план включает 5 тыс. символов в месяц, а подписка с $9 в мес. позволяет генерировать 50 тыс. знаков.

Далее список платформ, которые работают с русским языком и принимают к оплате российские карты.

Gerwin AI по функциональности может сравниться с Jasper. При этом у Gerwin есть шаблоны для описания товаров на сайты российских маркет-плейсов. Подписка за месяц идёт от 1900 рублей на 100 тыс. символов. Можно приобрести отдельный пакет, минимальный стоит 330 рублей и включает 10 тыс. символов.

Ещё одна платформа — AIWriter. На выбор даётся 15 категорий для создания разного контента. При регистрации по почте предлагается 7 дней пробного доступа. Месячная подписка требует 750р., годовая 4500р., ограничений по количеству слов нет.

ReText.AI — инструмент для рерайта русскоязычных текстов. Нейросеть позволяет перефразировать исходный текст и получить новый и уникальный, полностью сохранив смысл. Есть бесплатная, но ограниченная версия, весь инструментарий продаётся по ежемесячной подписке от 400 рублей с ограничением в 100 тыс. символов.

Сервис Copy Monkey.ai предлагает для генерация более 10 видов контента. Это статьи, лендинги и разные вариации коротких текстов. Например, карточки товаров для Wildberries и Ozon, отзывы на товары, письма для рассылки.

Для ознакомления можно сгенерировать 10 текстов, они обновляются каждый день. Чтобы получить полную версию сервиса нужно заполнить форму на сайте. Платформа интегрируется по API, вам могут выслать доступ, если оставите заявку через сайт.

Точных расценок и тарифов на странице сервиса пока нет.

Отмечу, что во всех сервисах, где есть платные тарифы, после оплаты любого тарифа, вам подключается автоматическое ежемесячно списание. Отмену подписки ищите в настройках аккаунта.

Анализ сервисов

Важно понимать, что Jasper и аналогичные ему продукты не панацея, и писать абсолютно весь контент не способны.

Зарубежный портал DDIY, занимающийся аналитикой инструментов для бизнеса, раскрыл преимущества и недостатки Jasper. Согласно их оценке, сервис лучше всего подходит для коротких текстов: постов, писем, заголовков, описания видео, продуктов и т. д. Он подскажет новые идеи, создаст скелет контента, который уже можно наполнить чем-то уникальным.

В статьях от 1500 слов и более текст выходит шаблонным, информация собирается со всего интернета и не проверяется на достоверность, материал придётся вычитывать, проверять на факты и редактировать. По сути, вы потратите столько же времени, если будете писать статью самостоятельно

Теперь поделюсь мнением о сервисе Gerwin AI, я протестировал его на генерацию целой статьи и коротких текстов.

Gerwin хорошо сгенерировал короткие тексты. Я задавал основные характеристики продукта или услуги, а нейросеть выдала лаконичное описание, где подчеркнула все преимущества. Текст соответствовал формату, который я выбрал, письму, посту, описанию продукта и т.д.

Со статьёй сервис не справился, но немного помог её написать. Для этого я отдельно сгенерировал основные абзацы статьи. В них можно увидеть семантическое ядро темы и понять какие вопросы следует раскрыть. Это позволит быстрее вникнуть в тему и потратить меньше времени на поиски информации. Но сразу брать сгенерированный материал в статью не стоит, его требуется проверить, насколько он достоверен и нет ли тут противоречий.

Аналоги Jasper и Gerwin генерируют текст по такому же принципу, поэтому считаю, что эту оценку можно применить и к ним.

Опытом работы с сервисами для генерации поделился Рамиль Каримов, директор по Digital коммуникациям «КРОС»:

Сервис CopyMonkey.ai успешно генерирует тексты для интернет-магазинов. Пользователи отмечают, что нейросеть может создавать сотни и тысячи уникальных описаний товаров в месяц. Сервис создаёт текст в разы быстрее и дешевле чем копирайтер.

Выводы: кратко о сервисах для генерации текста

Экспертную статью с помощью сервисов для генерации написать не удастся. Можно генерировать отдельные абзацы, узко формулируя тему. Они помогут понять, какие вопросы нужно осветить в вашей теме, чтобы её раскрыть. Это экономит время, поскольку вы знаете, что надо искать.

Лучше всего сервисы справляются с короткими текстами. Это посты в соцсети, описания товаров, отзывы, заголовки, электронные письма и т.д. Такой материал получится создавать быстро и в большом объёме.

На рынке есть ряд сервисов, позволяющих создавать коммерческие тексты.

Модель GPT-3 генерирует текст на английском и подходит для разных текстовых задач. Однако из России регистрация не проходит, придётся использовать другую почту и зарубежный номер телефона.

ruGPT-3 работает с русским языком и может продлить текст на любую тему и решить другие задачи, связанные с текстом. Чтобы её использовать придётся зарегистрироваться как юрлицо на платформе ML space. За плату модель получится гибко настроить под конкретные задачи.

Среди зарубежных сервисов, генерирующих текст на русском языке, самый функциональный — Jasper, он имеет свыше 50-ти шаблонов для текстов разного типа.

Схожий список текстового контента для генерации предлагают сервисы Outranking, Writesonic и Rytr. Outranking имеет гораздо больше инструментов для SEO, чем его аналоги.

Далее список платформ, которые работают с русским языком и принимают к оплате российские карты.

Gerwin AI имеет более 70-ти навыков копирайтинга и по функциональности может сравнится с Jasper.

AIWriter на выбор даёт 15 инструментов для создания текстов под разные задачи.

CopyMonkey.ai генериурет более 10 видов контента. Это статьи, лендинги и вариации коротких текстов. Изначально сервис специализировался на создании описаний товаров для маркет-плейсов и собрал положительное отзывы.

ReTexAI позволять только рерайтить русскоязычные тексты.

Оплачивать зарубежные сервисы сейчас трудно, но можно. Обзор вариантов оплаты здесь.

В этой статье рассказываю, как нейросети позволяют голосовому боту выполнять роль оператора первой линии поддержки и продаж.

Меня зовут Валентин Зайцев, я копирайтер и могу подготовить статью о вашем бизнесе — пишите на почту: [email protected]