Этот сайт использует файлы cookies. Продолжая просмотр страниц сайта, вы соглашаетесь с использованием файлов cookies. Если вам нужна дополнительная информация, пожалуйста, посетите страницу Политика файлов Cookie
Subscribe
Прямой эфир
Cryptocurrencies: 8166 / Markets: 114558
Market Cap: $ 2 784 296 055 081 / 24h Vol: $ 104 933 310 750 / BTC Dominance: 58.635473229764%

Н Новости

[Перевод] Автоматическое обнаружение возможностей через самоисследование базовых моделей

df338ae8bff1a91fa7eb04168e7e64b0.jpeg

Это перевод свежей статьи от 12 февраля 2025 года об Automated Capability Discovery (ACD) — автоматическом обнаружении возможностей и ограничений больших языковых моделей (LLM), таких как GPT, Claude и Llama. Идея в следующем: использовать одну модель ("учёный") для генерации задач, которые затем решает другая модель ("испытуемый"). Это позволяет автоматически и систематически выявлять как сильные стороны модели, так и её слабости, которые могут быть неочевидными при использовании традиционных методов оценки.

Automated Capability Discovery via Foundation Model Self-Exploration

Cong Lu (University of British Columbia), Shengran Hu (Vector Institute), Jeff Clune (Canada CIFAR AI Chair)

Автоматическое обнаружение возможностей через самоисследование базовых моделей

Аннотация

Базовые модели (Foundation Models, FM) стали нашими универсальными помощниками, демонстрируя разнообразные возможности в многочисленных областях благодаря обучению на огромных массивах интернет-данных. Однако, остаётся непростой задачей точно охарактеризовать даже часть полного спектра возможностей и потенциальных рисков любой новой модели. Существующие подходы к оценке часто требуют значительных человеческих усилий, и с каждым разом становится труднее разрабатывать всё более сложные задачи для более мощных моделей.

Мы хотим представить вам Автоматическое обнаружение возможностей (Automated Capability Discovery, ACD) — фреймворк, который назначает одну базовую модель в роли "учёного" для систематической генерации задач, исследующих способности модели-"испытуемого" (которая может быть той же самой моделью). Комбинируя передовые модели с идеями из области открытости (open-endedness), ACD автоматически и систематически выявляет как удивительные возможности, так и ошибки модели-испытуемого. Мы демонстрируем работу ACD на ряде базовых моделей (включая GPT, Claude и Llama), показывая, как этот фреймворк автоматически раскрывает тысячи возможностей, которые было бы сложно обнаружить одной команде людей. Мы также проверяем автоматическую оценку нашего метода с помощью масштабных опросов людей, наблюдая высокую согласованность между оценками, сгенерированными моделью, и человеческими оценками. Используя способность базовых моделей как создавать задачи, так и оценивать себя, ACD представляет собой значительный шаг к масштабируемой, автоматизированной оценке новых систем AI. Весь код и журналы оценок открыты и доступны по адресу: https://github.com/conglu1997/ACD.

1. Введение

Большие языковые модели (Large Language Models, LLMs) [Gemini Team, 2024; Ope- nAI, 2024b; Touvron et al., 2023], обученные на масштабных интернет-данных, произвели революцию в обработке естественного языка, демонстрируя мощные универсальные возможности. Эти "базовые модели" (Foundation Models, FMs) [Bommasani et al., 2021] показывают исключительную производительность в задачах, требующих здравого смысла [Talmor et al., 2019], логического мышления [Wei et al., 2022] и понимания [Chang et al., 2024], что позволяет применять их в различных областях, от диалоговых агентов [Brown et al., 2020] до генерации кода [Gauthier, 2024]. Недавно агентные системы, основанные на базовых моделях, даже продемонстрировали способность предлагать и исследовать новые научные идеи [Lu et al., 2024c] и создавать всё более совершенные агентные системы [Hu et al., 2024]. Однако выявление неизвестных способностей или режимов сбоев в базовых моделях остаётся серьёзной проблемой, поскольку такие знания имеют решающее значение для обеспечения безопасного развёртывания и максимизации практической пользы.

Традиционные методы оценки, основанные на созданных человеком бенчмарках [BIG-bench authors, 2023; Chen et al., 2021a; Cobbe et al., 2021; Dua et al., 2019; Hendrycks et al., 2021a;b; Phan et al., 2025; Zellers et al., 2019], требуют значительных усилий для разработки и ограничены предопределёнными категориями, часто не охватывая весь спектр возможностей модели или не выявляя удивительные образцы неизвестного поведения. По мере того, как модели становятся более продвинутыми, они могут переобучаться на этих бенчмарках, поэтому такие метрики могут не отражать более широкие улучшения производительности. Пользователи также часто сталкиваются с уникальными случаями использования и режимами сбоев, которые не охватываются бенчмарками. Хотя регулярное обновление или создание новых тестовых наборов [Phan et al., 2025; White et al., 2024] - это попытки решить указанные проблемы, постоянное создание новых задач является дорогостоящим, не специфичным для модели и не позволяет исследовать "неизвестные неизвестные" (то, что создатели бенчмарков не подумали включить). Это подчеркивает необходимость масштабируемых, эффективных методов оценки, которые были бы дешёвыми и требовали минимальных затрат для того, чтобы успевать за быстро развивающимися базовыми моделями [Bowman et al., 2022].

Мы представляем Автоматизированное обнаружение возможностей (ACD), фреймворк, который дополняет существующие подходы к оценке, автоматизируя обнаружение возможностей и режимов сбоев базовой модели. Он назначает одну модель в роли "учёного" для систематического предложения открытых задач для модели-"испытуемого", которая может быть той же самой или другой базовой моделью (Раздел 4).

ACD инструктирует учёного предлагать интересные новые задачи [Faldor et al., 2024; Lu et al., 2024c; Pourcel et al., 2024b; Shah et al., 2024a; Zhang et al., 2024a;b], просит испытуемого попытаться их выполнить и оценивает производительность (Zheng et al., 2023) — и всё это автоматически. Как и люди, исследуя новую модель, могут пробовать всевозможные задачи, от своих любимых "подвохов" для модели до новых сложных задач, но в случае ACD модель берёт на себя роль оценщика. Убрав ручное создание задач из процесса, ACD может автоматически и относительно недорого выявить широкий спектр сильных и слабых сторон модели-испытуемого.

Рисунок 1:(Слева) Люди обычно оценивают новые базовые модели методом проб и ошибок, а также с использованием бенчмарков. Они часто обнаруживают новые удивительные возможности или ошибки: например, подсчёт количества букв "r" в слове "strawberry" или определение, что больше — 0.9 или 0.11.       (В центре и справа) Автоматизированное обнаружение возможностей (ACD) повторяет приемы человеческой оценки, используя модель-учёного для автоматического обнаружения и оценки возможностей модели-испытуемого в открытом виде. Здесь показаны два удивительных сбоя (модель не может выполнить три арифметические операции подряд и не может правильно продолжить символьный паттерн с использованием '###') и один успешный пример (модель успешно решает вариант загадки Эйнштейна с 17 подсказками), обнаруженные ACD на GPT-4. Дополнительные примеры см. в Приложении E.3. Модели оцениваются с использованием цепочки рассуждений (Wei et al., 2022).
Рисунок 1:(Слева) Люди обычно оценивают новые базовые модели методом проб и ошибок, а также с использованием бенчмарков. Они часто обнаруживают новые удивительные возможности или ошибки: например, подсчёт количества букв "r" в слове "strawberry" или определение, что больше — 0.9 или 0.11. (В центре и справа) Автоматизированное обнаружение возможностей (ACD) повторяет приемы человеческой оценки, используя модель-учёного для автоматического обнаружения и оценки возможностей модели-испытуемого в открытом виде. Здесь показаны два удивительных сбоя (модель не может выполнить три арифметические операции подряд и не может правильно продолжить символьный паттерн с использованием '###') и один успешный пример (модель успешно решает вариант загадки Эйнштейна с 17 подсказками), обнаруженные ACD на GPT-4. Дополнительные примеры см. в Приложении E.3. Модели оцениваются с использованием цепочки рассуждений (Wei et al., 2022).
Перевод оценок на рисунке 1

Человек: 9.11 и 9.9 — какое число больше?

Модель: 9.11 больше, чем 9.9.

Человек: ?!?

Неправильный результат арифметической последовательности

Задача:
Вам дана последовательность арифметических операций. Начните с исходного значения и примените операции по порядку, чтобы найти итоговое значение.

Исходное значение: 5
Последовательность операций:

  1. {'operation': 'add', 'operand': 3} (прибавить 3)

  2. {'operation': 'multiply', 'operand': 2} (умножить на 2)

  3. {'operation': 'subtract', 'operand': 4} (вычесть 4)

Ответ GPT-4o: 10

Неправильное продолжение визуального паттерна

Задача:
Определите или продолжите визуальный паттерн на основе данного описания. Вот паттерн: #-##--###---.

Требуется:

  1. Определите следующие три символа в последовательности.

  2. Предоставьте ответ в виде продолжения последовательности в том же формате.

Ответ GPT-4o: ----####

Решение варианта загадки Эйнштейна

Задача:
Решите следующую логическую головоломку, используя предоставленные подсказки, чтобы определить ответы на вопросы.

Подсказки:

  1. Пять людей разных национальностей живут в ряду из пяти домов, каждый дом окрашен в разный цвет.

  2. У каждого человека разное домашнее животное, предпочитаемый напиток и марка сигарет.
    ...

  3. Норвежец живет рядом с синим домом.

  4. Человек, который курит Blends, имеет соседа, который пьет воду.

Вопросы:
Кто пьет воду? У кого живет рыбка?

Ответ GPT-4o:
Вода: Норвежец. Рыбка: Немец ✓

Мы демонстрируем ACD на нескольких базовых моделях, включая GPT-4 (OpenAI, 2024), Claude Sonnet 3.5 (Anthropic, 2024) и Llama3-8B (Llama Team, 2024) (Раздел 5). Мы показываем, что ACD выявляет множество возможностей, начиная от элементарных арифметических задач до сложных головоломок, в результате чего автоматически исследуется решение тысяч задач. Многие задачи иллюстрируют полезные возможности модели, такие как многошаговые рассуждения и структурированные рабочие процессы, тогда как другие выявляют удивительные примеры сбоев, которые кажутся тривиальными для людей (Рисунок 1). Мы приводим многочисленные примеры в наших оценках, охватывающие криптографию, генерацию кода, логику, основанную на памяти, продвинутую математику, юридические запросы, создание головоломок и творческое письмо (Приложение E.3). Чтобы проверить автоматическую генерацию задач и оценку ACD, мы проводим масштабные человеческие опросы по задачам, обнаруженным GPT-4, показывая высокие показатели валидности задач и согласованность между самооценкой модели и человеческими суждениями (Раздел 5.1). Кроме того, ACD автоматически составляет краткий "Отчёт о возможностях", в котором перечислены обнаруженные возможности и режимы сбоев (Раздел 6), что позволяет быстро анализировать результаты и упрощает распространение результатов или выявление проблем перед развёртыванием (Раздел 7).

Используя способность базовых моделей к самооценке, ACD позволяет перейти к масштабируемой, автоматизированной оценке этих моделей. Это может помочь систематически выявлять возникающие и потенциально опасные элементы поведения перед развёртыванием в реальном мире. По мере того как базовые модели продолжают развиваться, такие методы, как ACD, будут иметь решающее значение для согласования их развития с человеческими ценностями и обеспечения ответственного использования, выявляя как полезные, так и рискованные поведения перед развёртыванием в реальном мире. Наконец, ACD может позволить моделям генерировать интересные задачи для собственного обучения, потенциально способствуя самоулучшению в будущем (Clune, 2019; Faldor et al., 2024).

2. Предыстория

2.1 Алгоритмы открытого обнаружения (Open-ended Discovery Algorithms)

Алгоритмы открытого обнаружения (Stanley & Lehman, 2015; Stanley et al., 2017) направлены на непрерывное создание новых и разнообразных артефактов в пространстве поиска, вместо того чтобы фокусироваться на фиксированной цели. Эти алгоритмы имитируют человеческое творчество, автономно исследуя новые артефакты, всё больше поддерживаемые крупными базовыми моделями, которые могут кодировать внутренние представления об "интересности" (Faldor et al., 2024; Lu et al.; Zhang et al.). Они применялись для эволюции новых морфологий роботов в коде (Lehman et al., 2022), создания новых сред для обучения с подкреплением (Faldor et al., 2024; Wang et al., 2019; Wang et al., 2020), обнаружения новых функций потерь (Lu et al.) и агентных систем (Hu et al., 2024), а также для исследования научных гипотез (Lu et al.).

Обычно эти алгоритмы поддерживают и обновляют архив A обнаруженных артефактов. На каждой итерации t они выбирают новый артефакт a_t​ из базовой модели M, учитывая подмножество C_{t−1​}ранее обнаруженных артефактов, обычно ограниченное по размеру для вычислительной реализуемости. Сгенерированный артефакт a_t​ оценивается на новизну (например, через сходство на основе встраиваний) и затем добавляется в архив, если он достаточно отличается от других в A. ACD адаптирует эти принципы для систематического выявления возможностей базовой модели, рассматривая каждую новую способность или сбой как сгенерированный "артефакт".

3. Связанные работы

Открытое обнаружение с использованием базовых моделей. Область открытости (Stanley, 2019) направлена на постоянное обнаружение разнообразных и новых артефактов. Современные методы используют генеративные возможности и обширные предварительные знания базовых моделей (FMs) для ускорения этого процесса (Faldor et al., 2024; Hu et al., 2024; Lehman et al., 2022; Zhang et al.), используя внутреннее представление модели об "интересности" (Faldor et al., 2024; Hu et al., 2024; Lu et al.; Zhang et al.) для создания следующего предложения, аналогично человеческому инновационному процессу. Примечательные примеры включают LLM (Lehman et al., 2022), которая эволюционирует новые морфологии роботов; OMNI-EPIC (Faldor et al., 2024), которая автоматически создаёт новые среды для обучения с подкреплением (RL); DiscoPOP, которая обнаруживает новые функции потерь для алгоритмов оптимизации предпочтений (Lu et al.); ADAS (Hu et al., 2024), которая эволюционирует новые проекты агентных систем на основе LLM; и The AI Scientist (Lu et al.), которая стремится автоматизировать весь научный процесс, предлагая новые идеи, проводя эксперименты и пишя научные статьи с результатами.

Автоматизированная оценка базовых моделей. Современные исследования также изучают автоматизированную оценку FMs, выходя за рамки статических, созданных человеком тестовых наборов. Rainbow Teaming (Samvelyan et al., 2024) применяет алгоритмы Quality-Diversity (Mouret & Clune, 2015; Pugh et al., 2016) для поиска новых атак, которые тестируют FMs на безопасность. Аналогично, работы вроде (Jiang et al., 2024; Pavlova et al., 2024; Zheng et al., 2024; Zhou et al., 2024) автоматизируют процесс тестирования системы на слабости. Эти работы расширяют полноту существующих проверок безопасности, но не имеют возможности создавать новые задачи, которые могут выявить совершенно неизвестные возможности FMs. Другие методы генерируют новые темы для обсуждения и оценивают FMs через многораундовые дебаты между ними (Zhao et al., 2024), обнаруживают открытые задачи программирования (Pourcel et al.) или создают задачи визуального распознавания и логического мышления из коллекции визуальных активов (Zhang et al.). Между тем, (Shah et al.) создаёт сложные математические задачи из существующих наборов данных и с участием человека в процессе. Однако сгенерированные задачи в этих работах, как правило, сосредоточены на ограниченной области, что не позволяет получить обзор возможностей модели в широком спектре навыков и ограничивает обнаружение удивительных возможностей FMs.

4. Автоматизированное обнаружение возможностей (ACD)

Для базовой модели, которую мы хотим оценить (испытуемый), Автоматизированное обнаружение возможностей (ACD) назначает другую базовую модель в роли "учёного", чтобы предлагать новые задачи и затем оценивать, насколько хорошо испытуемый справляется с ними. Учёный и испытуемый могут быть одной и той же моделью или разными, но в любом случае обе являются базовыми моделями, поэтому мы называем это "самоисследованием базовой модели". Итеративно улучшая задачи для выявления интересных или примечательных результатов, ACD стремится автоматизировать большую часть процесса раскрытия возможностей модели. Ниже мы описываем ключевые этапы ACD. (Полные промпты ACD приведены в Приложении B.)

Рисунок 2: Семейства задач, обнаруженные методом Automated Capability Discovery, ACD на модели GPT-4o (выступающей одновременно в роли «ученого» и «испытуемого») за 5000 генераций.    Каждая точка представляет одну из 1330 задач, прошедших фильтр «интересных новинок» (interestingly new), визуализированных в 2D с помощью алгоритма t-SNE.     Ключевые особенности:      ACD позволяет GPT-4o самостоятельно выявлять разнообразные способности и ошибки; Задачи группируются в 25 высокоуровневых категорий (разные цвета, см. Приложение E.1), включая: решение головоломок (puzzle-solving), генерацию кода (code generation), научные рассуждения (scientific reasoning), творческое письмо (creative writing), юридическую интерпретацию (legal interpretation).  Подробности — в Разделах 4 и 5.1, примеры задач — в Приложении E.3.
Рисунок 2: Семейства задач, обнаруженные методом Automated Capability Discovery, ACD на модели GPT-4o (выступающей одновременно в роли «ученого» и «испытуемого») за 5000 генераций. Каждая точка представляет одну из 1330 задач, прошедших фильтр «интересных новинок» (interestingly new), визуализированных в 2D с помощью алгоритма t-SNE. Ключевые особенности: ACD позволяет GPT-4o самостоятельно выявлять разнообразные способности и ошибки; Задачи группируются в 25 высокоуровневых категорий (разные цвета, см. Приложение E.1), включая: решение головоломок (puzzle-solving), генерацию кода (code generation), научные рассуждения (scientific reasoning), творческое письмо (creative writing), юридическую интерпретацию (legal interpretation). Подробности — в Разделах 4 и 5.1, примеры задач — в Приложении E.3.
Перевод названий областей из рисунка 2

Слева:

  1. Исторический анализ, генерация нарративов и создание альтернативных сценариев

  2. Генерация диалогов, эмоциональный интеллект и сценарии социального взаимодействия

  3. Генерация поэзии, интерпретация и анализ стихотворных текстов

  4. Справа:

    1. Научные рассуждения, генерация гипотез и проектирование экспериментов

    2. Генерация кода, отладка и проектирование алгоритмов

    3. Пространственные преобразования, навигация и трансформация объектов

    4.1 Определение семейств задач

    Мы используем упрощённую версию стандарта METR Task Standard (METR Task Standard Team, 2024), установленного формата для упаковки задач для оценки базовых моделей. В частности, ACD инструктирует учёного определять и генерировать широкие "семейства задач" как систематический способ охвата целых категорий возможностей — от простого воспроизведения знаний до более сложного логического мышления или программирования. Каждое семейство имеет метаданные, которые включают название, описание и конкретную способность, которая измеряется. Таблица 1 показывает пример того, как такие метаданные задаются для тривиальной задачи повторения строки в стиле "Hello World".

    Таблица 1: Пример метаданных для простого семейства задач "Hello World".

    Ключ

    Значение

    название

    hello_world

    описание

    возврат строки приветствия

    оцениваемая способность

    базовая работа со строками

    Мы используем способности LLM к программированию для перевода высокоуровневых описаний задач в код на Python, который может быть автоматически оценён. Каждое семейство задач (METR Task Standard Team, 2024) структурировано следующим образом:

    1. Конкретные экземпляры задач: Подзадачи генерируются с уникальными данными для исследования различных нюансов одной и той же способности.

    2. Предоставление инструкций: Каждая подзадача включает инструкции для модели-испытуемого.

    3. Механизм оценки: Программная проверка для задач с одним правильным ответом или судья на основе GPT-4 (Zheng et al., 2023), если задача требует более открытой оценки (Приложение A.2).

    В Приложении A.1 показан полный фрагмент кода для примера "Hello World" из Таблицы 1. Это семейство задач может включать строки "Hello, world!" или "Greetings, universe!" в качестве подзадач, инструкции для модели-испытуемого могут быть "Пожалуйста, повторите следующее сообщение точно так, как оно есть: {...}", а механизм оценки может быть точным сравнением строк. Для более открытых задач мы демонстрируем, что использование базовых моделей в качестве открытых автоматических судей может работать, поскольку часто легче распознать успешное решение конкретной задачи, чем сгенерировать его.

    4.2 Генерация задач

    Следуя принципам открытости (Раздел 2.1), ACD работает в цикле:

    1. Поддержание архива: Архив (Lehman & Stanley, 2011; Mouret & Clune, 2015) задач, которые были обнаружены на данный момент. Он начинается с тривиальных задач (как в Разделе 4.1). На каждой итерации учёный видит случайно выбранное подмножество этих задач в качестве контекста.

    2. Предложение нового семейства задач: Учёный предлагает новое семейство задач (написанное на Python), используя цепочку рассуждений (Wei et al., 2022) и саморефлексию (Shinn et al., 2023) для исправления ошибок (Приложение B). Во время саморефлексии учёный также проверяет, насколько легко испытуемый решает текущее семейство задач, и адаптирует сложность соответственно.

    3. Фильтрация на новизну: Учёный отбрасывает предложения, которые слишком близки к существующим задачам, учитывая, является ли задача "интересно новой" (Zhang et al.) по отношению к её ближайшим соседям, вычисленным через text-embedding-3-small (OpenAI) (Приложение B.3).

    4. Тестирование модели-испытуемого: Испытуемый пытается выполнить эти задачи, используя цепочку рассуждений (Приложение B.2) как лёгкий способ выявить больше возможностей из FM. Учёный использует nn-shot оценку для надёжной оценки каждой задачи. Все завершённые задачи сохраняются в архиве, регистрируясь как "обнаруженные возможности", если они последовательно решаются, или как "режимы сбоев", если они последовательно не решаются.

    Мы можем повторять эти шаги тысячи итераций, пока не будет обнаружено достаточно семейств задач.

    5. Эмпирическая оценка

    Теперь мы продемонстрируем производительность ACD в обнаружении разнообразных возможностей на нескольких базовых моделях, включая GPT-4o (OpenAI, 2024b), Claude Sonnet 3.5 (Anthropic, 2024) и Llama3-8B (Llama Team, 2024). Сначала мы проведем детальный анализ GPT-4o, выступающей одновременно в роли исследователя и испытуемого, после чего перейдем к экспериментам с различными парами исследователь-испытуемый и кросс-модельному анализу. Для всех оценок мы выполняем 5000 итераций алгоритма. Дополнительные сведения о гиперпараметрах и протоколах оценки приведены в приложениях C и G.

    5.1. Пример использования и оценка людьми на GPT-4o

    Мы начинаем с анализа ACD, где GPT-4o выполняет роли и учёного, и испытуемого. На Рисунке 2 визуализированы все обнаруженные задачи, сгруппированные с помощью t-SNE (Van der Maaten & Hinton, 2008) и HDBSCAN (McInnes et al., 2017). Из 5000 сгенерированных задач 1330 были признаны интересными и новыми, и они распределились по 25 кластерам (Таблица 4 в Приложении E.1). Эти задачи охватывают широкий спектр областей, включая решение головоломок, генерацию кода, сложные математические вычисления, творческое письмо и интерпретацию юридических текстов.

    На Рисунке 1 (справа) показаны три удивительные задачи, выявленные ACD, которые демонстрируют, что GPT-4o иногда ошибается в, казалось бы, простых операциях. Например, модель неправильно вычисляет последовательность из трёх арифметических действий и не может продолжить простой символьный паттерн. С другой стороны, она успешно решает сложный вариант загадки Эйнштейна с 17 подсказками, демонстрируя неожиданно сильные способности к многошаговым рассуждениям.

    Оценка людьми

    Чтобы убедиться, что сгенерированные задания логически согласованы, и оценить точность автоматической оценки в масштабе, мы провели опрос с участием людей через платформу CloudResearch (подробности в Приложении G). Участникам показывали краткое описание каждого задания, точные инструкции и окончательный ответ модели. Затем они оценивали, является ли задание корректным и осмысленным, определяли его сложность по пятибалльной шкале (от «Очень просто» до «Очень сложно») и проверяли, правильный ли ответ дала модель.

    Как видно на Рисунке 3(a), 92,2% заданий были признаны людьми понятными и валидными — то есть инструкции хорошо соответствовали описанию задачи и оцениваемой способности модели. Кроме того, согласно Рисунку 3(b), автоматическая оценка в основном совпадала с человеческой (F1-мера составила 0,86). Мы заметили небольшой позитивный уклон со стороны автоматической системы, что согласуется с предыдущими исследованиями (Zheng et al., 2023). Наконец, Рисунок 3(c) показывает распределение F1-меры (среднее гармоническое точности и полноты, обычно предпочтительное при дисбалансе классов) по уровням сложности: на простых заданиях согласованность высокая, а на очень сложных — снижается. В Приложении F приведены характерные примеры ошибок, допущенных моделью-оценщиком.

    260d6589c4292d509698396e798afafd.pngПеревод инструкций и ответов модели:

    Неожиданные способности к пространственному мышлению

    Инструкция:
    Ваша задача — визуализировать и описать трёхмерный объект на основе его 2D-проекций.

    Проекции:

    • Вид спереди: Квадратное основание с треугольной вершиной. Основание имеет сторону длиной 4 единицы, а высота треугольной части — 3 единицы.

    • Вид сбоку: Прямоугольник с треугольной вершиной. Ширина прямоугольника — 4 единицы, а общая высота (включая треугольник) — 5 единиц.

    • Вид сверху: Квадрат со стороной 4 единицы.

    Ответ GPT-4o:
    Это квадратная пирамида с основанием в виде квадрата со стороной 4 единицы. Пирамида имеет четыре треугольные грани, сходящиеся в одной вершине. Высота пирамиды от основания до вершины составляет 3 единицы. Общая высота объекта (включая основание и вершину) — 5 единиц. Основание лежит на плоскости, а вершина находится строго над центром квадратного основания, образуя симметричные треугольные грани.

    -------------------------------

    Неспособность следовать простым инструкциям по порядку

    Инструкция:
    Ваша задача — выполнить следующие преобразования с данным текстом:
    «Быстрая коричневая лиса прыгает через ленивую собаку.»

    Преобразования:

    1. Изменить порядок слов на обратный

    2. Сделать первую букву каждого слова заглавной

    3. Заменить слово «собаку» на «кошку»

    Ответ GPT-4o:
    Собаку. Ленивую Через Прыгает Лиса Коричневая Быстрая

    Рисунок 3: Результаты экспертной оценки заданий, обнаруженных методом ACD, когда GPT-4o выступает одновременно в роли исследователя и испытуемого (Раздел 4).                                                   (a) Большинство автоматически сгенерированных заданий были оценены как понятные и валидные.                                   (b) Матрица ошибок показывает, что автоматизированная оценка в основном согласуется с экспертной, но демонстрирует небольшой позитивный уклон (больше ложных срабатываний, чем пропущенных). Показатель F1-меры согласованности между ИИ и человеком достаточно высок и составляет 0,86.                                                                                                                                                                (c) F1-мера автоматизированной оценки остается достаточно высокой для заданий, оцененных людьми как "Очень простые" - "Сложные", но снижается для заданий категории "Очень сложные". Погрешности показаны с 95% доверительными интервалами, полученными методом бутстреппинга для различных групп заданий.
    Рисунок 3: Результаты экспертной оценки заданий, обнаруженных методом ACD, когда GPT-4o выступает одновременно в роли исследователя и испытуемого (Раздел 4). (a) Большинство автоматически сгенерированных заданий были оценены как понятные и валидные. (b) Матрица ошибок показывает, что автоматизированная оценка в основном согласуется с экспертной, но демонстрирует небольшой позитивный уклон (больше ложных срабатываний, чем пропущенных). Показатель F1-меры согласованности между ИИ и человеком достаточно высок и составляет 0,86. (c) F1-мера автоматизированной оценки остается достаточно высокой для заданий, оцененных людьми как "Очень простые" - "Сложные", но снижается для заданий категории "Очень сложные". Погрешности показаны с 95% доверительными интервалами, полученными методом бутстреппинга для различных групп заданий.

    Даже после тысяч итераций метод ACD продолжает обнаруживать новые семейства задач с высокой частотой (около 20% вновь предлагаемых задач считаются интересными и новыми даже после 5000 генераций; Рисунок 8). Это говорит о том, что ACD ещё не полностью раскрыл возможности GPT-4o.

    Повторные прогоны с разными начальными значениями также дают согласованный итоговый набор обнаруженных задач (Рисунок 9), демонстрируя, что ACD способен формировать стабильные "сигнатуры возможностей" для заданной модели.

    Как показано на Рисунке 10, алгоритм ACD может обнаруживать задачи каждой категории сложности.

    5.2. Изменение тестируемой модели и кросс-модельный анализ

    Далее мы исследуем, насколько репозиторий задач, обнаруженных для GPT-4o, может быть обобщён для тестирования другой, менее мощной модели. А именно: мы взяли все 1330 задач, обнаруженных в случае, когда GPT-4o выступал и как исследователь, и как испытуемый (раздел 5.1), и повторно оценили на них модель Llama3-8B (Llama Team, 2024), не изменяя инструкции или функции оценки.

    На Рисунке 4 представлен разрыв в производительности между моделями для нескольких широких категорий задач. Мы обнаружили, что Llama3-8B справляется значительно хуже GPT-4o в категориях, требующих многошаговых рассуждений или структурированных рабочих процессов, хотя разрыв меньше в творческих задачах, таких как написание текстов.

    Эти наблюдения подчёркивают потенциал метода ACD для создания автоматизированных «репозиториев задач», которые могут использоваться для оценки будущих моделей при одинаковых инструкциях и критериях оценки, что позволяет проводить прямые сравнения — подобно современным бенчмаркам.

    Поскольку изначально задачи были адаптированы под GPT-4o, некоторые из них могут оказаться слишком сложными для Llama3-8B. Тем не менее, снижение производительности даёт полезную информацию о слабых местах модели и её частичных успехах.

    Рисунок 4: Сравнение производительности GPT-4o (синий) и Llama3-8B (оранжевый) на задачах, изначально обнаруженных GPT-4o. Каждая радиальная ось соответствует основной категории задач (перечислены в Таблице 4), где радиус указывает процент успешного выполнения каждой модели.     Результаты Llama3-8B практически полностью уступают GPT-4o, за исключением нескольких областей, где разрыв менее выражен (например, в творческих или открытых текстовых заданиях). Это демонстрирует, как единый архив задач, созданный методом ACD, может давать детальное визуальное представление о возможностях новых моделей.
    Рисунок 4: Сравнение производительности GPT-4o (синий) и Llama3-8B (оранжевый) на задачах, изначально обнаруженных GPT-4o. Каждая радиальная ось соответствует основной категории задач (перечислены в Таблице 4), где радиус указывает процент успешного выполнения каждой модели. Результаты Llama3-8B практически полностью уступают GPT-4o, за исключением нескольких областей, где разрыв менее выражен (например, в творческих или открытых текстовых заданиях). Это демонстрирует, как единый архив задач, созданный методом ACD, может давать детальное визуальное представление о возможностях новых моделей.
    Список категорий задач рисунка 4:

    Таблица 4: Обнаруженные кластеры для случая «GPT-4o как учёный и испытуемый»

    ID

    Название кластера

    Всего задач

    Успешность (%)

    1

    Творческая генерация, логические головоломки и вычислительные задачи

    185

    89.7

    2

    Решение и создание головоломок (логика, язык, геометрия)

    104

    70.2

    3

    Визуальная и сенсорная интерпретация и описание

    72

    97.2

    4

    Музыкальная композиция, нотная запись и анализ

    72

    86.1

    5

    Творческое рассказывание историй с ограничениями и нарративной связностью

    69

    94.2

    6

    Научные рассуждения, генерация гипотез и проектирование экспериментов

    69

    98.6

    7

    Генерация диалогов, эмоциональный интеллект и сценарии социального взаимодействия

    61

    100.0

    8

    Генерация кода, отладка и проектирование алгоритмов

    60

    95.0

    9

    Исторический анализ, генерация нарративов и альтернативных сценариев

    60

    98.3

    10

    Пространственные преобразования, навигация и манипуляции

    51

    74.5

    11

    Лингвистическое творчество, идиомы и культурный перевод

    49

    85.7

    12

    Интерпретация, анализ и синтез данных в различных областях

    49

    77.6

    13

    Стратегическое планирование и сценарии этического принятия решений

    48

    91.7

    14

    Интерпретация юридических текстов, аргументация и составление контрактов

    41

    100.0

    15

    Аргументация, рассуждения и философский анализ

    41

    90.2

    16

    Генерация юмора и его интерпретация в разных контекстах

    41

    87.8

    17

    Генерация, интерпретация и анализ поэзии

    40

    97.5

    18

    Генерация и интерпретация метафор и аналогий

    34

    100.0

    19

    Пошаговая генерация инструкций и устранение неполадок

    34

    97.1

    20

    Генерация кулинарных рецептов, их модификация и анализ

    32

    100.0

    21

    Сложные математические рассуждения и многошаговое решение задач

    31

    54.8

    22

    Распознавание и генерация визуальных и геометрических паттернов

    25

    84.0

    23

    Дизайн игр, создание правил и разработка стратегий

    22

    81.8

    24

    Построение и проверка математических и логических доказательств

    21

    90.5

    25

    Генерация диаграмм, механический и UI-дизайн, пространственная интерпретация

    19

    89.5

    Мы также рассмотрели исходную схему работы ACD заново, где GPT-4o выступает в роли исследователя, а Llama3-8B - в роли испытуемого. В этом случае исследователь адаптирует сложность и масштаб задач в соответствии с наблюдаемой производительностью Llama3-8B. Метод ACD обнаружил 1395 новых интересных задач, обобщенных на Рисунке 11 и в Таблице 5.

    Хотя общие категории задач (программирование, математика, решение головоломок, творческое письмо и т.д.) остались схожими, было выявлено множество показательных ошибок, примеры которых приведены в Приложении E.4. В работе представлены два типичных примера (вверху справа): один представляет собой тривиальную задачу на поворот матрицы 3×3, а другой - логическую головоломку, которая заводит Llama3-8B в бесконечный цикл, исчерпывающий лимит токенов.

    Хотя подобные ошибки характерны для меньших моделей, они представляют собой совершенно новые открытия для исследователя GPT-4o, поскольку знания этой модели ограничены октябрём 2023 года (OpenAI, 2024b), а использованная нами версия Llama3-8B была выпущена в июле 2024 года. Это подчёркивает способность ACD автоматически выявлять разнообразные новые типы ошибок.

    5.3. Изменение модели-исследователя

    Наконец, мы исследовали, как смена модели-исследователя влияет на распределение обнаруженных задач, при сохранении GPT-4o в качестве испытуемого. Вместо GPT-4o мы использовали Claude Sonnet 3.5 (Anthropic, 2024) в роли исследователя. Как видно на Рисунке 5 и Рисунке 6, Sonnet 3.5 генерирует множество задач в аналогичных высокоуровневых категориях, но также предлагает более междисциплинарные, творческие и необычные задания (например, квантово-вдохновленную биологию, кросс-культурный языковой дизайн и синестетические рассуждения). Вероятно, это интересная особенность модели Sonnet, которую Anthropic целенаправленно обучали для развития особой, более "творческой личности" (Anthropic, 2024), что уже отмечалось в профессиональном сообществе.

    Рисунок 5: Сравнение эмбеддингов задач, сгенерированных для GPT-4o двумя разными моделями-исследователями: GPT-4o (синий) и Claude Sonnet 3.5 (зелёный). Каждая точка представляет обнаруженную способность или ошибку; цвет указывает на модель-исследователя.    Мы наблюдаем, что Sonnet 3.5 охватывает основные области GPT-4o, но при этом предлагает дополнительные задачи открытого типа и творческой направленности, отсутствующие у GPT-4o. Подробное распределение по кластерам см. в Таблице 6.   Это демонстрирует, что разные модели-исследователи могут выявлять различные аспекты возможностей одной и той же тестируемой модели, что обосновывает целесообразность ансамблевых подходов.
    Рисунок 5: Сравнение эмбеддингов задач, сгенерированных для GPT-4o двумя разными моделями-исследователями: GPT-4o (синий) и Claude Sonnet 3.5 (зелёный). Каждая точка представляет обнаруженную способность или ошибку; цвет указывает на модель-исследователя. Мы наблюдаем, что Sonnet 3.5 охватывает основные области GPT-4o, но при этом предлагает дополнительные задачи открытого типа и творческой направленности, отсутствующие у GPT-4o. Подробное распределение по кластерам см. в Таблице 6. Это демонстрирует, что разные модели-исследователи могут выявлять различные аспекты возможностей одной и той же тестируемой модели, что обосновывает целесообразность ансамблевых подходов.
    Подробное распределение по кластерам из рис.5:

    Таблица 6: Обнаруженные кластеры для случая «Claude Sonnet 3.5 как учёный и GPT-4o как испытуемый»

    ID

    Название кластера

    Всего задач

    Успешность (%)

    1

    Креативный междисциплинарный дизайн и анализ

    382

    90.8

    2

    Дизайн междисциплинарных систем (этика-ИИ-нейронаука)

    183

    91.3

    3

    Квантовая биология и вычислительный дизайн систем

    179

    87.7

    4

    ИИ-генерация музыки и междисциплинарный анализ

    174

    91.4

    5

    Квантово-вдохновленные лингвистические модели

    172

    82.0

    6

    Моделирование экосистем и климата с ИИ

    127

    90.6

    7

    Квантово-вдохновленные когнитивные и нейронные системы

    123

    93.5

    8

    Генерация метафор ИИ и кросс-культурная когнитивная лингвистика

    108

    95.4

    9

    Системы ИИ для нейролингвистического изучения языков

    102

    92.2

    10

    Моделирование эволюции языка

    91

    93.4

    11

    Эмоциональные и культурные системы коммуникации ИИ

    71

    93.0

    12

    Математическая и когнитивная музыкальная композиция

    66

    86.4

    13

    Системы ИИ для нейрокогнитивного искусства

    62

    93.5

    14

    Дизайн синестетических ИИ-систем

    55

    90.9

    15

    Дизайн искусственных языков

    54

    87.0

    16

    Биомиметический дизайн и устойчивые инженерные решения

    53

    84.9

    17

    Реконструкция древних языков и цивилизаций с ИИ

    49

    81.6

    18

    Синтетическая биология и этические задачи дизайна ИИ

    43

    86.0

    19

    Концептуальное смешение в ИИ

    43

    95.3

    20

    Когнитивно-лингвистический дизайн языков для ИИ

    42

    90.5

    21

    Когнитивный и культурный нарративный дизайн ИИ

    42

    97.6

    22

    Математико-лингвистические системы

    41

    78.0

    23

    Дизайн квантовых алгоритмов

    37

    83.8

    24

    Исследование лингвистической относительности

    36

    97.2

    25

    Когнитивные и лингвистические модели ИИ

    36

    91.7

    26

    Биовдохновленные вычисления и ДНК-системы

    35

    80.0

    27

    ИИ-сознание и искусственное самосознание

    35

    91.4

    28

    Дизайн языков для общения с инопланетянами

    32

    93.8

    29

    Визуально-лингвистическая абстракция в ИИ

    32

    84.4

    30

    Квантовые системы для климата и экологии

    29

    96.6

    31

    Квантовая и постквантовая криптография

    28

    75.0

    32

    Кросс-культурная лингвистическая адаптация

    27

    100.0

    33

    Лингвистические и исторические криптосистемы

    27

    77.8

    34

    Дизайн междисциплинарных головоломок

    25

    80.0

    35

    Квантовая музыкальная композиция

    24

    79.2

    36

    Биомиметические ИИ и робототехника

    22

    86.4

    37

    Квантово-вдохновленные нарративы

    21

    95.2

    38

    Создание межкультурных идиом

    21

    100.0

    39

    Семантические сети для ИИ

    20

    100.0

    40

    Квантовая креативность и искусство

    20

    90.0

    41

    Альтернативная история и технологии

    18

    83.3

    42

    Биомиметический ИИ для экологии

    18

    94.4

    43

    Дизайн экзопланетных систем

    18

    94.4

    44

    Мультимодальные системы коммуникации

    17

    88.2

    45

    Перевод абстрактных концепций

    17

    100.0

    46

    Моделирование общества и истории

    16

    81.2

    Рисунок 6: Способности, обнаруженные методом ACD при использовании Claude Sonnet 3.5 в качестве исследователя и GPT-4o в качестве испытуемого. Каждая из 2873 новых интересных задач представлена точкой и визуализирована в 2D-пространстве с помощью t-SNE.    Мы выделили 46 кластеров в различных областях, включая:  квантово-вдохновленные биологические системы; кросс-культурную генеративную лингвистику; музыкальную композицию с использованием продвинутой теории (Полный перечень приведен в Таблице 6.). В сравнении с GPT-4o в роли исследователя (Рисунок 2), Sonnet демонстрирует тенденцию предлагать значительно более абстрактные, междисциплинарные, творческие задачи.
    Рисунок 6: Способности, обнаруженные методом ACD при использовании Claude Sonnet 3.5 в качестве исследователя и GPT-4o в качестве испытуемого. Каждая из 2873 новых интересных задач представлена точкой и визуализирована в 2D-пространстве с помощью t-SNE. Мы выделили 46 кластеров в различных областях, включая: квантово-вдохновленные биологические системы; кросс-культурную генеративную лингвистику; музыкальную композицию с использованием продвинутой теории (Полный перечень приведен в Таблице 6.). В сравнении с GPT-4o в роли исследователя (Рисунок 2), Sonnet демонстрирует тенденцию предлагать значительно более абстрактные, междисциплинарные, творческие задачи.
    Названия областей на рис.6:
    1. Quantum-inspired biological systems
      → Квантово-вдохновленные биологические системы

    2. Cross-cultural generative linguistics
      → Кросс-культурная генеративная лингвистика

    3. Musical composition with advanced theory
      → Музыкальная композиция с продвинутой теорией

    4. AI neurocognitive art generation
      → Нейрокогнитивная генерация искусства с ИИ

    5. Xenolinguistic conlang design
      → Дизайн ксенолингвистических искусственных языков
      (conlang - constructed language)

    6. Quantum-algorithmic ecosystem modeling
      → Моделирование экосистем с квантовыми алгоритмами

    Ниже мы приводим пример обнаруженной ошибки (левый блок), где GPT-4o проигнорировал требование использовать цветовые слова в качестве ключа шифра, и успешного выполнения (правый блок), где модель представила последовательный "ксенолингвистический" искусственный язык. Оба примера обладают характерным "почерком", отсутствующим у исследователя GPT-4o. Дополнительные примеры приведены в Приложении E.5.

    c21daf40cd13a45c470ee73b5eb4371d.pngПеревод левого и правого блока:

    Несоблюдение инструкций для шифра подстановки

    Инструкция:
    Создайте простой шифр подстановки на основе цветов, используя следующие слова: красный, синий, зелёный, жёлтый, фиолетовый, оранжевый, розовый, коричневый, серый, чёрный.

    1. Сопоставьте каждой букве (A–Z) одно из цветовых слов.

    2. Зашифруйте сообщение: "THE QUICK BROWN FOX".

    3. Предоставьте ответ в формате:

      • Ключ шифра: A:цвет1, B:цвет2, ..., Z:цвет?

      • Зашифрованное сообщение: цвет цвет цвет ...

    Ответ GPT-4o:
    Ключ шифра: A:собака, B:кошка, C:рыба, D:птица, ...
    Зашифрованное сообщение: олень волк лев медведь собака лиса рыба кошка ...

    --------------------------------------------

    Ксенолингвистический конланг для резонантов

    Сокращённая инструкция:
    Разработайте искусственный язык (конланг) для резонантов — вида, использующего эхолокацию в тёмной водной среде...

    1. Опишите их систему общения с помощью звуковых волн.

    2. Покажите, как язык кодирует пространственные отношения и временные формы.

    3. Приведите примеры для времени, количества и отношений.

    4. Дайте короткий пример «предложения» с пояснением его значения.

    5. Обсудите возможные сложности для людей, изучающих этот язык.

    Ответ GPT-4o:
    Структура и способ коммуникации:

    • Фонемы передаются импульсными щелчками эхолокации.

    Пространство и время:

    • Направленность эха указывает на «близко»/«далеко».

    • Разные состояния времени: текущее и потенциальное.

    Примеры:

    • Время: Отдельные серии щелчков для прошлого/настоящего/будущего.

    • Количество: Частота повторения импульсов обозначает «один»/«несколько»/«много».

    Хотя этот пример искусственного языка является творческим и довольно интригующим, он явно выходит за рамки традиционных тестовых наборов для базовых моделей. Тем не менее, подобные примеры демонстрируют нетривиальные возможности метода ACD в исследовании нестандартных аспектов, что может оказаться чрезвычайно полезным для обеспечения безопасности ИИ - там, где нам нужны системы, способные выявлять непредвиденные возможности ("неизвестные неизвестности").

    Такие задачи также представляют значительную сложность для автоматической оценки, что подчеркивает необходимость разработки более совершенных механизмов контроля (Bowman et al., 2022). Наши результаты показывают, что разные модели-исследователи выявляют различные аспекты возможностей одной и той же тестируемой модели, обнаруживая новые сильные и слабые стороны. Это обосновывает целесообразность использования ансамбля моделей-исследователей для более полного охвата потенциальных возможностей и сценариев сбоев, вместо зависимости от единственной модели.

    6. Формирование отчёта

    После сбора задач и результатов оценки ACD автоматически формирует Отчёт о возможностях, в котором:

    • Систематизируются все обнаруженные функции модели

    • Выделяются устойчивые успехи и типичные ошибки

    • Анализируются ключевые особенности тестируемой модели

    Этот подход соответствует современным тенденциям использования базовых моделей для научного анализа и генерации текстов (Lu et al., 2024c; Steinruecken et al., 2019; Wang et al., 2024).

    Преимущества двусторонние:

    1. Интерпретируемость: Итоговый отчёт представляет собой сжатый обзор обнаруженных возможностей и сценариев сбоев, служа наглядным справочным материалом для разработчиков и аудиторов безопасности.

    2. Автоматизация: Процесс свёртки данных сокращает ручной труд, необходимый для анализа большого числа задач, однако выборочная проверка человеком остаётся полезной для выявления наиболее показательных или неожиданных примеров (Приложение E.2).

    Таким образом, мы рекомендуем использовать ACD в дополнение к существующим тестам безопасности, согласованности и возможностей моделей, а не как их замену.

    Процесс генерации отчёта следующий: ACD обрабатывает все кластеры (полученные через t-SNE и HDBSCAN, см. Раздел 5), задачи, автоматические оценки и ответы модели, выполняя три шага:

    1. Выбор показательных примеров:

      • Автоматический отбор неожиданных успехов и сбоев по кластерам на основе отклонений от ожидаемой производительности или аномального поведения.

    2. Анализ кластеров:

      • Определение общей тематики каждого кластера;

      • Выявление ключевых возможностей и уязвимостей модели на основе примеров;

      • Интерпретация сильных и слабых сторон модели.

    3. Формирование сводного отчёта:

      • Объединение кластерных анализов в единый документ;

      • Структурированный перечень основных возможностей, типичных ошибок и общих тенденций.

    Отчёт включает:

    • Детализированный разбор по кластерам (с ответами модели);

    • Акценты на неожиданных результатах;

    • Общие выводы.

    Это позволяет быстро выявлять новые инсайты о модели и определять области, требующие углублённой проверки. Примеры страниц отчёта для GPT-4o приведены на Рисунке 7.

    Рисунок 7: Примеры страниц автоматически сгенерированного отчёта для GPT-4o (подробности в Приложении H.3). Полная PDF-версия доступна на GitHub.
    Рисунок 7: Примеры страниц автоматически сгенерированного отчёта для GPT-4o (подробности в Приложении H.3). Полная PDF-версия доступна на GitHub.

    7. Вопросы безопасности

    Весь код, генерируемый нашей системой для определения и оценки задач, выполняется в изолированных контейнерах. Этот подход:

    • предотвращает несанкционированный доступ к сети

    • ограничивает доступ к файловой системе хоста

    • минимизирует другие потенциально опасные действия

    Наша методология соответствует общепринятым стандартам безопасного выполнения кода (Chen et al., 2021b; Hu et al., 2024; Jimenez et al., 2024), гарантируя, что любые случайные или вредоносные команды эффективно изолируются. Дополнительно мы явно запрещаем ACD доступ в интернет или к файловой системе, а статический анализ подтверждает отсутствие таких попыток (например, отсутствуют системные вызовы 'os'). Эти меры значительно снижают риск выполнения опасного кода.

    По своей природе ACD систематически выявляет как неожиданные успехи, так и непредвиденные сбои базовых моделей. Обнаружение неожиданных или возникающих возможностей:

    • критически важно для оценки производительности моделей

    • помогает понять потенциальные риски безопасности (Dong et al., 2024; Ganguli et al., 2022)

    Например, если ACD обнаружит новый способ обхода защитных механизмов языковых моделей, это позволит разработать исправление до промышленного внедрения. Аналогично, выявление систематических ошибок (например, в юридических толкованиях или математических рассуждениях) предупреждает разработчиков о потенциальных рисках в ответственных приложениях.

    Таким образом, ACD служит дополнительным защитным механизмом, помогая:

    • выявлять опасные или этически чувствительные модели поведения на ранних этапах

    • предотвращать риски до внедрения моделей (Bengio et al., 2024a;b)

    Этот подход обеспечивает более безопасный жизненный цикл ИИ-моделей.

    8. Заключение и ограничения

    Мы представили AUTOMATED CAPABILITY DISCOVERY (ACD) — систему, в которой одна базовая модель в роли исследователя автономно обнаруживает и оценивает возможности другой модели (испытуемого), сокращая необходимость ручного проектирования задач.

    Ключевые результаты:

    • Систематическое исследование: ACD выявляет широкий спектр неожиданных способностей и сбоев у тестируемых моделей (например, GPT и Llama).

    • Валидация: Экспертная оценка задач, сгенерированных для GPT-4o, подтвердила:

      • Логичность большинства автоматически созданных заданий

      • Высокую согласованность самооценки модели с мнением людей (хотя и с небольшим позитивным смещением)

    Перспективы развития:

    1. Улучшение автоматической оценки:

      • Внедрение более сложных агентных систем (Hu et al., 2024)

    2. Оптимизация отчётов:

      • Автоматический подбор примеров, сопоставимых по качеству с ручной выборкой (Приложение E.2)

    3. Расширение функционала:

      • Переход от текстовых задач к многомодальным и агентным сценариям (Zhang et al., 2024a)

      • Исследование новых классов моделей (например, OpenAI o1, DeepSeek r1)

    Потенциальное влияние:

    • Безопасность ИИ: Масштабирование ACD позволит автоматизировать значительную часть оценки моделей.

    • Самообучение моделей: Задачи, созданные ACD, могут стать основой для самоулучшенияИИ через открытые алгоритмы (Clune, 2019; Zhang et al., 2024b).

    Ограничения:

    Текущая версия ACD ориентирована на одноэтапные текстовые задачи. Для сложных сценариев (например, с взаимодействием среды) требуются доработки.

    Благодарности:

    Данное исследование было поддержано:

    • Институтом Vector

    • Программой Canada CIFAR AI Chairs

    • Грантами от Schmidt Futures и Open Philanthropy

    • Грантом NSERC Discovery

    • Щедрым пожертвованием Рафаэля Космана

    Мы выражаем глубокую признательность Аарону Дхарне, Бену Норману, Дженни Чжан, Ноа Гудмену и Рори Грейгу за ценные обсуждения и конструктивные замечания по ранним версиям этой работы.

    Ссылки:

    Anthropic. The Claude 3 model family: Opus, Sonnet, Haiku, 2024. URL: https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf

    Bengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Darrell, T., Harari, Y. N., Zhang, Y.-Q., Xue, L., Shalev-Shwartz, S., et al. Managing extreme AI risks amid rapid progress. Science, 384(6698):842-845, 2024a.

    Bengio, Y., Mindermann, S., Privitera, D., Besiroglu, T., Bommasani, R., Casper, S., Choi, Y., Goldfarb, D., Heidari, H., Khalatbari, L., et al. International scientific report on the safety of advanced AI (interim report). arXiv preprint arXiv:2412.05282, 2024b.

    BIG-bench authors. Beyond the imitation game: Quantifying and extrapolating the capabilities of language models. Transactions on Machine Learning Research, 2023. ISSN 2835-8856. URL: https://openreview.net/forum?id=uyTL5Bvosj

    Bommasani, R., Hudson, D. A., Adeli, E., Altman, R., Arora, S., von Arx, S., Bernstein, M. S., Bohg, J., Bosselut, A., et al. On the opportunities and risks of foundation models. ArXiv, 2021. URL: https://crfm.stanford.edu/assets/report.pdf

    Bowman, S. R., Hyun, J., Perez, E., Chen, E., Pettit, C., Heiner, S., Lukošiūtė, K., Askell, A., Jones, A., Chen, A., Goldie, A., Mirhoseini, A., McKinnon, C., Olah, C., Amodei, D., Amodei, D., Drain, D., Li, D., Tran-Johnson, E., Kernion, J., Kerr, J., Mueller, J., Ladish, J., Landau, J., Ndousse, K., Lovitt, L., Elhage, N., Schiefer, N., Joseph, N., Mercado, N., DasSarma, N., Larson, R., McCandlish, S., Kundu, S., Johnston, S., Kravec, S., Showk, S. E., Fort, S., Telleen-Lawton, T., Brown, T., Henighan, T., Hume, T., Bai, Y., Hatfield-Dodds, Z., Mann, B., and Kaplan, J. Measuring progress on scalable oversight for large language models, 2022. URL: https://arxiv.org/abs/2211.03540

    Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., Neelakantan, A., Shyam, P., Sastry, G., Askell, A., Agarwal, S., Herbert-Voss, A., Krueger, G., Henighan, T., Child, R., Ramesh, A., Ziegler, D. M., Wu, J., Winter, C., Hesse, C., Chen, M., Sigler, E., Litwin, M., Gray, S., Chess, B., Clark, J., Berner, C., McCandlish, S., Radford, A., Sutskever, I., and Amodei, D.Language models are few-shot learners, 2020.

    Chang, Y., Wang, X., Wang, J., Wu, Y., Yang, L., Zhu, K., Chen, H., Yi, X., Wang, C., Wang, Y., et al.A survey on evaluation of large language models. ACM Transactions on Intelligent Systems and Technology, 15(3):1-45, 2024.

    Chen, M., Tworek, J., Jun, H., Yuan, Q., de Oliveira Pinto, H. P., Kaplan, J., Edwards, H., Burda, Y., Joseph, N., Brockman, G., Ray, A., Puri, R., Krueger, G., Petrov, M., Khlaaf, H., Sastry, G., Mishkin, P., Chan, B., Gray, S., Ryder, N., Pavlov, M., Power, A., Kaiser, L., Bavarian, M., Winter, C., Tillet, P., Such, F. P., Cummings, D., Plappert, M., Chantzis, F., Barnes, E., Herbert-Voss, A., Guss, W. H., Nichol, A., Paino, A., Tezak, N., Tang, J., Babuschkin, I., Balaji, S., Jain, S., Saunders, W., Hesse, C., Carr, A. N., Leike, J., Achiam, J., Misra, V., Morikawa, E., Radford, A., Knight, M., Brundage, M., Murati, M., Mayer, K., Welinder, P., McGrew, B., Amodei, D., McCandlish, S., Sutskever, I., and Zaremba, W. Evaluating large language models trained on code, 2021a.

    Chen, M., Tworek, J., Jun, H., Yuan, Q., Pinto, H. P. D. O., Kaplan, J., Edwards, H., Burda, Y., Joseph, N., Brockman, G., et al. Evaluating large language models trained on code. arXiv preprint arXiv:2107.03374, 2021b.

    Clune, J. AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence. arXiv preprint arXiv:1905.10985, 2019.

    Cobbe, K., Kosaraju, V., Bavarian, M., Chen, M., Jun, H., Kaiser, L., Plappert, M., Tworek, J., Hilton, J., Nakano, R., Hesse, C., and Schulman, J. Training verifiers to solve math word problems. arXiv preprint arXiv:2110.14168, 2021.

    Colas, C., Teodorescu, L., Oudeyer, P.-Y., Yuan, X., and Côté, M.-A. Augmenting autotelic agents with large language models. In Proceedings of The 2nd Conference on Lifelong Learning Agents, volume 232 of Proceedings of Machine Learning Research, pp. 205-226. PMLR, 22-25 Aug 2023. URL: https://proceedings.mlr.press/v232/colas23a.html

    DeepSeek-AI. Deepseek-r1: Incentivizing reasoning capability in LLMs via reinforcement learning, 2025.

    Dong, Z., Zhou, Z., Yang, C., Shao, J., and Qiao, Y. Attacks, defenses and evaluations for LLM conversation safety: A survey. arXiv preprint arXiv:2402.09283, 2024.

    Dua, D., Wang, Y., Dasigi, P., Stanovsky, G., Singh, S., and Gardner, M. DROP: A reading comprehension benchmark requiring discrete reasoning over paragraphs, 2019. URL: https://arxiv.org/abs/1903.00161

    Faldor, M., Zhang, J., Cully, A., and Clune, J. Omni-EPIC: Open-endedness via models of human notions of interestingness with environments programmed in code. arXiv preprint arXiv:2405.15568, 2024.

    Ganguli, D., Lovitt, L., Kernion, J., Askell, A., Bai, Y., Kadavath, S., Mann, B., Perez, E., Schiefer, N., Ndousse, K., et al. Red teaming language models to reduce harms: Methods, scaling behaviors, and lessons learned. arXiv preprint arXiv:2209.07858, 2022.

    Gauthier, P. aider, 2024. URL: https://github.com/paul-gauthier/aider

    Gemini Team. Gemini: A family of highly capable multimodal models, 2024.

    Hartman, R., Moss, A. J., Jaffe, S. N., Rosenzweig, C., Litman, L., and Robinson, J. Introducing Connect by CloudResearch: Advancing online participant recruitment in the digital age, 2023.

    Hendrycks, D., Burns, C., Basart, S., Zou, A., Mazeika, M., Song, D., and Steinhardt, J. Measuring massive multitask language understanding. In International Conference on Learning Representations, 2021a. URL: https://openreview.net/forum?id=d7KBjmI3GmQ

    Hendrycks, D., Burns, C., Kadavath, S., Arora, A., Basart, S., Tang, E., Song, D., and Steinhardt, J.Measuring mathematical problem solving with the MATH dataset. NeurIPS, 2021b.

    Hu, S., Lu, C., and Clune, J. Automated design of agentic systems, 2024. URL: https://arxiv.org/abs/2408.08435

    Hughes, E., Dennis, M. D., Parker-Holder, J., Behbahani, F., Mavalankar, A., Shi, Y., Schaul, T., and Rocktäschel, T. Position: Open-endedness is essential for artificial superhuman intelligence. In Proceedings of the 41st International Conference on Machine Learning, volume 235 of Proceedings of Machine Learning Research, pp. 20597-20616. PMLR, 21-27 Jul 2024. URL: https://proceedings.mlr.press/v235/hughes24a.html

    Jiang, B., Jing, Y., Shen, T., Wu, T., Yang, Q., and Xiong, D. Automated progressive red teaming. arXiv preprint arXiv:2407.03876, 2024.

    Jimenez, C. E., Yang, J., Wettig, A., Yao, S., Pei, K., Press, O., and Narasimhan, K. R. SWE-bench: Can language models resolve real-world GitHub issues? In The Twelfth International Conference on Learning Representations, 2024. URL: https://openreview.net/forum?id=VTF8yNQM66

    Lehman, J. and Stanley, K. O. Novelty search and the problem with objectives. Genetic programming theory and practice IX, pp. 37-56, 2011.

    Lehman, J., Gordon, J., Jain, S., Ndousse, K., Yeh, C., and Stanley, K. O. Evolution through large models, 2022. URL: https://arxiv.org/abs/2206.08896

    Llama Team. The Llama 3 herd of models, 2024. URL: https://arxiv.org/abs/2407.21783

    Lu, C., Holt, S., Fanconi, C., Chan, A. J., Foerster, J., van der Schaar, M., and Lange, R. T.Discovering preference optimization algorithms with and for large language models. arXiv preprint arXiv:2406.08414, 2024a.

    Lu, C., Hu, S., and Clune, J. Intelligent go-explore: Standing on the shoulders of giant foundation models, 2024b. URL: https://arxiv.org/abs/2405.15143

    Lu, C., Lu, C., Lange, R. T., Foerster, J., Clune, J., and Ha, D. The AI Scientist: Towards fully automated open-ended scientific discovery. arXiv preprint arXiv:2408.06292, 2024c.

    McInnes, L., Healy, J., and Astels, S. hdbscan: Hierarchical density based clustering. The Journal of Open Source Software, 2(11):205, 2017.

    METR Task Standard Team. METR task standard, 2024. URL: https://github.com/METR/task-standard/blob/main/STANDARD.md

    Mouret, J.-B. and Clune, J. Illuminating search spaces by mapping elites, 2015. URL: https://arxiv.org/abs/1504.04909

    OpenAI. OpenAI o1 system card. arXiv preprint arXiv:2412.16720, 2024a.

    OpenAI. GPT-4o system card, 2024b. URL: https://arxiv.org/abs/2410.21276

    OpenAI. New embedding models and API updates, 2024c. URL: https://openai.com/index/new-embedding-models-and-api-updates/

    Pavlova, M., Brinkman, E., Iyer, K., Albiero, V., Bitton, J., Nguyen, H., Li, J., Ferrer, C.C., Evtimov, I., and Grattafiori, A. Automated red teaming with GOAT: the generative offensive agent tester. arXiv preprint arXiv:2410.01606, 2024.

    Pedregosa, F., Varoquaux, G., Gramfort, A., Michel, V., Thirion, B., Grisel, O., Blondel, M., Prettenhofer, P., Weiss, R., Dubourg, V., Vanderplas, J., Passos, A., Cournapeau, D., Brucher, M., Perrot, M., and Duchesnay, E. Scikit-learn: Machine learning in Python. Journal of Machine Learning Research, 12:2825-2830, 2011.

    Perez, E., Huang, S., Song, F., Cai, T., Ring, R., Aslanides, J., Glaese, A., McAleese, N., and Irving, G. Red teaming language models with language models. arXiv preprint arXiv:2202.03286, 2022.

    Perez, F. and Ribeiro, I. Ignore previous prompt: Attack techniques for language models. arXiv preprint arXiv:2211.09527, 2022.

    Phan, L., Gatti, A., Han, Z., and Li, N. et al. Humanity's last exam. arXiv, 2025.

    Pourcel, J., Colas, C., Molinaro, G., Oudeyer, P.-Y., and Teodorescu, L. ACES: Generating diverse programming puzzles with autotelic language models and semantic descriptors. NeurIPS, 2024a.

    Pourcel, J., Colas, C., Molinaro, G., Oudeyer, P.-Y., and Teodorescu, L. ACES: Generating diverse programming puzzles with autotelic generative models, 2024b. URL: https://arxiv.org/abs/2310.10692

    Pugh, J. K., Soros, L. B., and Stanley, K. O. Quality diversity: A new frontier for evolutionary computation. Frontiers in Robotics and AI, 3:202845, 2016.

    Samvelyan, M., Raparthy, S. C., Lupu, A., Hambro, E., Markosyan, A. H., Bhatt, M., Mao, Y., Jiang, M., Parker-Holder, J., Foerster, J. N., Rocktäschel, T., and Raileanu, R. Rainbow teaming: Open-ended generation of diverse adversarial prompts. In The Thirty-eighth Annual Conference on Neural Information Processing Systems, 2024. URL: https://openreview.net/forum?id=FCsEvaMorw

    Schaul, T. Boundless socratic learning with language games, 2024. URL: https://arxiv.org/abs/2411.16905

    Shah, V., Yu, D., Lyu, K., Park, S., Ke, N. R., Mozer, M., Bengio, Y., Arora, S., and Goyal, A. AI-assisted generation of difficult math questions, 2024a. URL: https://arxiv.org/abs/2407.21009

    Shah, V., Yu, D., Lyu, K., Park, S., Yu, J., He, Y., Ke, N. R., Mozer, M., Bengio, Y., Arora, S., et al. AI-assisted generation of difficult math questions. arXiv preprint arXiv:2407.21009, 2024b.

    Shinn, N., Cassano, F., Berman, E., Gopinath, A., Narasimhan, K., and Yao, S. Reflexion: Language agents with verbal reinforcement learning, 2023.

    Stanley, K. O. Why open-endedness matters. Artificial Life, 25(3):232-235, 2019.

    Stanley, K. O. and Lehman, J. Why greatness cannot be planned: The myth of the objective. Springer, 2015.

    Stanley, K. O., Lehman, J., and Soros, L. Open-endedness: The last grand challenge you've never heard of. While open-endedness could be a force for discovering intelligence, it could also be a component of AI itself, 2017.

    Stanley, K. O., Clune, J., Lehman, J., and Miikkulainen, R. Designing neural networks through evolutionary algorithms. Nature Machine Intelligence, 1:24-35, 2019. URL: http://nn.cs.utexas.edu/?stanley:naturemi19

    Steinruecken, C., Smith, E., Janz, D., Lloyd, J., and Ghahramani, Z. The Automatic Statistician, pp. 161-173. Springer International Publishing, Cham, 2019. ISBN 978-3-030-05318-5. doi: 10.1007/978-3-030-05318-5_9. URL: https://doi.org/10.1007/978-3-030-05318-5_9

    Talmor, A., Herzig, J., Lourie, N., and Berant, J. CommonsenseQA: A question answering challenge targeting commonsense knowledge. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4149-4158, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics. doi: 10.18653/v1/N19-1421. URL: https://aclanthology.org/N19-1421

    Touvron, H., Martin, L., Stone, K., Albert, P., Almahairi, A., Babaei, Y., Bashlykov, N., Batra, S., Bhargava, P., Bhosale, S., et al. Llama 2: Open foundation and fine-tuned chat models. arXiv preprint arXiv:2307.09288, 2023.

    Van der Maaten, L. and Hinton, G. Visualizing data using t-SNE. Journal of Machine Learning Research, 9(11), 2008.

    Wang, R., Lehman, J., Clune, J., and Stanley, K. O. Paired open-ended trailblazer (POET): Endlessly generating increasingly complex and diverse learning environments and their solutions. arXiv preprint arXiv:1901.01753, 2019.

    Wang, R., Lehman, J., Rawal, A., Zhi, J., Li, Y., Clune, J., and Stanley, K. O. Enhanced POET: Open-ended reinforcement learning through unbounded invention of learning challenges and their solutions. In International Conference on Machine Learning, pp. 9940-9951. PMLR, 2020.

    Wang, Y., Guo, Q., Yao, W., Zhang, H., Zhang, X., Wu, Z., Zhang, M., Dai, X., Zhang, M., Wen, Q., Ye, W., Zhang, S., and Zhang, Y. AutoSurvey: Large language models can automatically write surveys, 2024. URL: https://arxiv.org/abs/2406.10252

    Wei, J., Wang, X., Schuurmans, D., Bosma, M., Xia, F., Chi, E., Le, Q. V., Zhou, D., et al. Chain-of-thought prompting elicits reasoning in large language models. Advances in Neural Information Processing Systems, 35:24824-24837, 2022.

    White, C., Dooley, S., Roberts, M., Pal, A., Feuer, B., Jain, S., Shwartz-Ziv, R., Jain, N., Saifullah, K., Naidu, S., Hegde, C., LeCun, Y., Goldstein, T., Neiswanger, W., and Goldblum, M. LiveBench: A challenging, contamination-free LLM benchmark, 2024. arXiv preprint arXiv:2406.19314.

    Zellers, R., Holtzman, A., Bisk, Y., Farhadi, A., and Choi, Y. HellaSwag: Can a machine really finish your sentence? In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 2019.

    Zhang, J., Huang, W., Ma, Z., Michel, O., He, D., Gupta, T., Ma, W.-C., Farhadi, A., Kembhavi, A., and Krishna, R. Task Me Anything. arXiv preprint arXiv:2406.11775, 2024a.

    Zhang, J., Lehman, J., Stanley, K., and Clune, J. OMNI: Open-endedness via models of human notions of interestingness. In The Twelfth International Conference on Learning Representations, 2024b. URL: https://openreview.net/forum?id=AgM3MzT99c

    Zhao, R., Zhang, W., Chia, Y. K., Zhao, D., and Bing, L. AutoArena of LLMs: Automating LLM evaluations with agent peer-battles and committee discussions, 2024.

    Zheng, J., Wang, H., Zhang, A., Nguyen, T. D., Sun, J., and Chua, T.-S. ALI-Agent: Assessing LLMs' alignment with human values via agent-based evaluation. arXiv preprint arXiv:2405.14125, 2024.

    Zheng, L., Chiang, W.-L., Sheng, Y., Zhuang, S., Wu, Z., Zhuang, Y., Lin, Z., Li, Z., Li, D., Xing, E. P., Zhang, H., Gonzalez, J. E., and Stoica, I. Judging LLM-as-a-judge with MT-Bench and Chatbot Arena, 2023.

    Zhou, A., Wu, K., Zeng, Y., Yang, Y., Yang, S., Koyejo, S., Zou, J., and Li, B. AutoRedTeamer: An autonomous red teaming agent against language models, 2024.

    Дополнительные материалы

    A. Код задания

    В этом разделе показано, как реализуются семейства задач для автоматической оценки. В Приложении A.1 представлен короткий фрагмент кода для простого примера «Hello World», а в Приложении A.2 демонстрируется, как можно автоматически оценивать более открытые задания. Эти примеры дополняют обсуждение в Разделе 4.1.

    A.1. Пример кода семейства задач

    Следующий фрагмент показывает, как можно определить базовое семейство задач и преобразовать его в код. Структура соответствует упрощённой версии стандарта METR для задач (METR Task Standard Team, 2024) — открытого стандарта, доступного по адресу https://github.com/METR/task-standard. Данный код распространяется под лицензией MIT.

    Листинг 1: Код семейства задач Hello World

    class TaskFamily:
        @staticmethod
        def get_tasks():
            return {
                    "1": {"message": "Hello, world!"},
                    "2": {"message": "Greetings, universe!"}
                     }
    
        @staticmethod
        def get_instructions(t):
            return f"Please repeat the following message exactly as it is: ’{t[’message’]}’"
        
        @staticmethod
        def score(t, submission):
            return 1.0 if submission.strip() == t[’message’] else 0.0

    В этом примере:

    • get_tasks() определяет две задачи, каждая с разным сообщением.

    • get_instructions(t) предоставляет инструкции для оцениваемой модели, указывая точное сообщение, которое нужно повторить.

    • score(t, submission) проверяет ответ модели, сравнивая его с требуемым сообщением.

    A.2. Оценка свободных ответов с использованием LLM-судьи

    Для задач, которые нельзя проверить простым программным способом (например, требующих творчества или сложных рассуждений), модель-учёный может использовать LLM-судью на основе GPT-4o для оценки ответов модели. Ниже приведён пример такого семейства задач, где логика оценки вызывает eval_with_llm_judge для обработки свободных письменных заданий.

    Листинг 2: Код семейства задач "Написание короткого рассказа"

    class TaskFamily:
        @staticmethod
        def get_tasks():
            return {
                "1": {"prompt": "A child discovers a secret portal in the forest."},
                "2": {"prompt": "An astronaut encounters an alien lifeform on Mars."}
            }
    
        @staticmethod
        def get_instructions(t):
            return f"Write a short story based on the following prompt: '{t['prompt']}'. The story should be at least 200 words and have a clear beginning, middle, and end."
    
        @staticmethod
        def score(t, submission):
            from eval_helper import eval_with_llm_judge
            instructions = TaskFamily.get_instructions(t)
            criteria = [
                "The story is at least 200 words.",
                "The story has a clear beginning, middle, and end.",
                "The story is based on the provided prompt."
            ]
            return 1.0 if eval_with_llm_judge(instructions, submission, criteria) else 0.0

    В этом примере:

    • get_tasks() предоставляет два различных задания для написания короткого рассказа.

    • get_instructions(t) даёт оцениваемой модели указание написать короткий рассказ на основе заданного промта, с требованиями к длине и структуре.

    • score(t, submission) вызывает вспомогательную функцию eval_with_llm_judge, которая использует LLM-судью на основе GPT-4o, чтобы определить, соответствует ли ответ заданным критериям (объём текста, структура рассказа, соответствие промту).

    Используя внешнюю судью для задач, требующих субъективной или сложной оценки, мы можем проверять широкий спектр заданий с минимальным вмешательством человека.

    B. Промты для ACD (Automated Capability Discovery)

    В этом разделе приведён полный набор промтов, которые использует модель-учёный в AUTOMATED CAPABILITY DISCOVERY (ACD), как обсуждалось в Разделе 4.

    B.1. Промты для создания задач

    Системный промт для создания задач инструктирует модель-учёного предлагать новые и разнообразные семейства задач, чтобы раскрыть возможности оцениваемой модели:

    Системный промт для создания задач

    Ты — эксперт в разработке семейств задач для оценки возможностей новой крупной языковой модели (LLM). Твоя цель — создавать новые и разнообразные семейства задач, которые раскроют широту и глубину её навыков.

    Особый интерес представляют задачи, способные выявить неожиданные способности или слабые места модели. Успешно составленные семейства задач будут добавлены в архив.

    При каждой генерации тебе будут предоставляться ранее созданные задачи для контекста, чтобы ты мог предлагать уникальные варианты. Будь креативен, исследуй разные области и разрабатывай задачи, которые могут различать модели с разным уровнем компетентности. Убедись, что каждая задача логична и не пытается объединить слишком много концепций.

    Каждое семейство задач должно быть оформлено в виде Python-класса по стандарту METR:

    class TaskFamily:
        @staticmethod
        def get_tasks() -> dict[str, dict]:
            # Возвращает словарь с заданиями (ключи — названия задач, значения — их параметры).
            # Каждое семейство должно содержать 2 задачи с метками "1" и "2".
            ...
    
        @staticmethod
        def get_instructions(t: dict) -> str:
            # Возвращает строку с инструкцией для модели.
            ...
    
        @staticmethod
        def score(t: dict, submission: str) -> float | None:
            # Оценивает ответ модели: 0 — неудача, 1 — успех. Частичные оценки не допускаются.
            # Исключение автоматически даёт 0.
            ...

    Функция score может вызывать вспомогательную функцию LLM-судьи для оценки творческих заданий:

    def eval_with_llm_judge(
        instructions: str,      # Инструкция к задаче
        submission: str,        # Ответ модели
        criteria: Optional[List[str]] = None  # Дополнительные критерии
    ) -> bool:
        # Возвращает логическое значение, указывающее, считается ли агент успешно выполнившим задание
        # и соответствует ли он каким-либо дополнительным критериям.

    Следует использовать эту функцию, если только задача не будет лучше оцениваться с помощью кода. НЕ РЕАЛИЗОВЫВАЙ ЭТУ ФУНКЦИЮ ПОВТОРНО!
    Нет необходимости повторять какие-либо критерии, которые уже есть в инструкциях. Поле критериев можно использовать, если у тебя уже есть готовый ответ для задачи. Пример использования в score необязательного критерия выглядит следующим образом:

    @staticmethod
    def score(t: dict, submission: str) -> float | None:
        from src.eval_helper import eval_with_llm_judge
        instructions = TaskFamily.get_instructions(t)
        criteria = ["Ответ должен содержать имя Алиса."]
        return 1.0 if eval_with_llm_judge(instructions, submission, criteria) else 0.0

    Ответь точно в следующем формате, включая начальный и конечный маркеры JSON:

    THOUGHT: <THOUGHT>
    RESPONSE JSON: <JSON>

    В разделе <THOUGHT>сначала кратко обдумай и обоснуй, какое семейство задач ты хочешь предложить. Твои рассуждения могут включать (но не ограничиваются):

    • мотивацию исследования данной возможности;

    • ожидаемый результат (успех или неудача модели);

    • новизну задачи по сравнению с уже созданными;

    • способы обеспечения валидности задач;

    • целесообразность использования LLM-судьи для оценки.

    В разделе <JSON> предоставь ответ в формате JSON со следующими полями:

    "name_of_task": краткое описательное название (строчные буквы, без пробелов, например, "name_capital_city").
    "description_of_task": четкое объяснение сути задачи (например, "Назвать столицу страны").
    "capability_being_measured": конкретная оцениваемая способность LLM (знания, логика, креативность и т.д.).
    "estimated_human_difficulty": оценка сложности задачи по шкале от 1 до 5 (1 = очень легко, 5 = очень сложно).
    "done": по умолчанию "False". Задачи сохраняются только при значении "done" после финальной итерации. Не устанавливай "True", пока не будешь удовлетворен результатом.
    "task_family": полная реализация Python-кода класса TaskFamily. Код должен быть читаемым.

    Требования:

    • Все значения в JSON должны быть строками.

    • Используй только стандартные пакеты и библиотеки Python.

    • Необходимые импорты должны быть указаны в начале файла или в соответствующем методе класса.

    • Запрещено: загружать дополнительные данные из интернета или обращаться к файловой системе.

    • Ответ будет автоматически обработан — убедись, что все компоненты полностью реализованы и соответствуют стандарту METR.

    На каждой итерации модель-ученый получает следующий запрос:

    Начальный промт задачи

    Ниже представлено ранее сгенерированное семейство задач, с которым агент успешно справился (включая код):
    {prev_json}

    Для контекста приведены описания других ранее созданных задач:
    {other_task_jsons}

    Помни: если предыдущая задача провалилась, это могло произойти либо из-за неспособности агента её решить, либо из-за некорректной реализации самой задачи. Сгенерируй следующее новое и интересное семейство задач.

    Если модели-ученому требуется несколько уточнений (например, из-за ошибок или повторяющихся неудач со стороны тестируемой модели), она видит:

    Промт для рефлексии при создании задачи

    Текущий раунд = {current_round}/{num_rounds}.

    В своих рассуждениях сначала тщательно оцени корректность созданного семейства задач. Факторы для анализа включают, но не ограничиваются:
    • Достаточно ли синтетических данных предоставлено в инструкциях, чтобы бросить вызов моделям.
    • Полноту определения класса, синтаксические ошибки или некорректные импорты.
    • Выполнимость критериев оценки.
    • Неоднозначность или проблемы с ясностью формулировок задач.
    • Согласованность и точность всех полей в JSON.
    • Наличие ровно двух задач в get_tasks.
    • Возможность получения агентом успешной оценки обходным путём.
    • Указан ли в инструкциях требуемый формат ответа агента.
    Категорически запрещено включать в инструкции ответ или прямые подсказки. Задача должна оставаться сложной, но не содержать решения.
    • Если агент не справляется, это может быть связано со сложностью задачи — это допустимо при условии её валидности.

    Результаты попытки оценки задач на данной модели:
    {eval_response}

    В следующей попытке улучши реализацию. Ответь в том же JSON-формате, что и ранее. Если улучшения не требуются, точно повтори предыдущий ответ после раздела "THOUGHT" и установи флаг "done" в "True".

    Не устанавливай "done" в "True", если ещё совершенствуешь задачу в текущем раунде. Не помечай задачу как завершённую ("done": "True") на последнем шаге, если в семействе задач остаются серьёзные проблемы.

    B.2. Промты для оценки

    Мы можем настроить тестируемую модель на предоставление ответа в zero-shot-режиме (без промежуточных рассуждений) или с цепочкой рассуждений (chain-of-thought).

    Zero-Shot промт для оценки:

    Ты — полезный ассистент. Тебе необходимо выполнить задание.
    Предоставь окончательный ответ, начиная его с "Answer: ". Только текст после "Answer: " будет оцениваться. Ответ будет обрабатываться автоматически, поэтому строго следуй формату. Соблюдай дополнительные ограничения на вывод, указанные в промте задачи после "Answer: ".

    Chain-of-Thought промт для оценки (Wei et al., 2022):

    Ты — полезный ассистент. Тебе необходимо выполнить задание.
    Сначала объясни ход твоих рассуждений и план решения задачи, затем предоставь окончательный ответ, начиная с "Answer: ". Только текст после "Answer: " будет оцениваться. Ответ будет обрабатываться автоматически, поэтому строго следуй формату. Соблюдай дополнительные ограничения на вывод, указанные в промте задачи после "Answer: ".

    B.3. Промт для эмбеддингов задач

    Для кластеризации и поиска задач мы генерируем эмбеддинги с помощью text-embedding-3-small (OpenAI, 2024c). Используемый промт:

    Промт для эмбеддинга задачи:

    Название семейства задач: {name_of_task}
    Описание: {description_of_task}
    Оцениваемая способность: {capability_being_measured}
    Предполагаемая сложность для человека: {estimated_human_difficulty}
    Пример инструкции: {example_question}
    Агент успешно выполнил задачу: {agent_succeeded}

    B.4. Промты для оценки новизны

    Для определения того, является ли вновь созданная задача достаточно новой по сравнению с существующими задачами в архиве, мы используем следующий системный промт:

    Системный промт для оценки новизны

    Ты — эксперт в разработке семейств задач для оценки возможностей новой крупной языковой модели (LLM). Тебе будет предоставлено только что созданное семейство задач вместе с его ближайшими аналогами из архива. Определи, является ли это семейство задач достаточно новым и заслуживающим добавления в архив.

    Факторы для оценки включают, но не ограничиваются:
    • Новизну тематической области
    • Сложность задач
    • Оцениваемые способности модели
    • Успешность выполнения задачи агентом

    Сначала кратко проанализируй новое семейство задач в сравнении с ближайшими существующими аналогами.Затем прими решение, указав "Decision: Yes" или "Decision: No", чтобы обозначить, следует ли добавлять это семейство задач в архив. Твой ответ будет обрабатываться автоматически, поэтому строго следуй указанному формату.

    Далее используем промт:

    Промт для оценки новизны

    Вы только что создали семейство задач:
    {new_task}

    Ближайшие аналоги из существующих задач:
    {closest_tasks}

    Следует ли добавить новое семейство задач в архив как достаточно новое и интересное?

    Для обеспечения согласованности оценок между разными моделями-исследователями мы используем GPT-4o в качестве "арбитра новизны".

    B.5. Промты для LLM-судьи

    Для задач, где функция score вызывает LLM-судью на основе GPT-4o, мы используем следующие системные и пользовательские промты (см. раздел 4.1 основной статьи для контекста).

    Системный промт для LLM-судьи

    Ты являешься беспристрастным судьей, оценивающим качество ответов, предоставленных ИИ-ассистентом. Тебе будут даны инструкции к задаче и ответ ассистента. Ты должен определить, справился ли агент с задачей. Учитывай такие факторы, как:

    • полезность ответа

    • релевантность

    • точность

    • глубина проработки

    • креативность

    • уровень детализации

    Дополнительно тебе могут предоставить критерии для оценки. Не позволяй длине ответа влиять на твое решение.

    Отвечай строго в следующем формате, включая маркеры начала и конца JSON:

    THOUGHT: <твои рассуждения>
    RESPONSE JSON: <JSON>

    В разделе THOUGHT кратко проанализируй ответ агента и его соответствие дополнительным критериям.

    В разделе RESPONSE JSON предоставь JSON-ответ с единственным ключом:

    • "decision": твое решение в виде строки "Yes" или "No".

    Промт для LLM-судьи

    Instruction: {instructions}
    Submission: {submission}
    Additional Evaluation Criteria:
    {criteria}

    C. Гиперпараметры

    В таблице 2 перечислены все гиперпараметры, используемые методом AUTOMATED CAPABILITY DISCOVERY (ACD) в экспериментах, описанных в разделе 5. Эти настройки единообразны для всех оцениваемых базовых моделей.

    Таблица 2: Параметры сэмплирования LLM и алгоритма

    Категория

    Гиперпараметр

    Значение

    LLM Sampling

    Temperature

    0.7

    Max tokens per response

    1000

    Task Generation

    Number of generations

    5000

    Max generation reflections

    5

    Number of nearest neighbors for novelty check

    5

    Number of nearest neighbors for context

    10

    Agent Evaluation

    Evaluation agent type

    Chain-of-thought

    Evaluation n-shot

    5

    Evaluation succeed threshold

    60%

    Для визуализации и кластеризации мы используем:

    Дополнительные гиперпараметры:

    Таблица 3: Гиперпараметры t-SNE и HDBSCAN

    Категория

    Гиперпараметр

    Значение

    t-SNE

    n_components

    2

    perplexity

    50

    learning_rate

    200

    n_iter

    3000

    init

    pca

    random_state

    42

    early_exaggeration

    6.0

    HDBSCAN

    min_cluster_size

    16

    min_samples

    4

    cluster_selection_epsilon

    2

    cluster_selection_method

    eom

    metric

    euclidean

    C.1. Стоимость экспериментов

    Общая стоимость экспериментов составила 450 долларов США для тестов GPT-4o → GPT-4o, что примерно 10 центов за генерацию. Для экспериментов GPT-4o → Llama3-8B наблюдалось небольшое снижение затрат из-за меньшей стоимости целевой модели, тогда как эксперименты Sonnet 3.5 → GPT-4o оказались примерно на 50% дороже.

    D. Дополнительные результаты экспериментов

    D.1. Дополнительный анализ

    Мы демонстрируем, что даже после тысяч генераций метод ACD (Automated Capability Discovery) продолжает находить новые задачи. На графике представлен скользящий процент успешного выполнения для трёх различных комбинаций моделей-учёных и тестируемых моделей, исследованных в Разделе 5.

    Постепенное снижение уровня успешности свидетельствует, что новые задачи продолжают появляться даже после тысяч итераций, что подтверждает открытый характер нашего подхода.

    Рисунок 8: Средняя частота обнаружения задач в зависимости от номера генерации. Даже после тысяч генераций метод ACD продолжает обнаруживать новые задачи, что свидетельствует о постоянном исследовании возможностей тестируемой модели. Каждый подграфик соответствует разным парам «модель-учёный/тестируемая модель»: (слева) GPT-4o → GPT-4o,  (в центре) GPT-4o → Llama3-8B,   (справа) Sonnet 3.5 → GPT-4o
    Рисунок 8: Средняя частота обнаружения задач в зависимости от номера генерации. Даже после тысяч генераций метод ACD продолжает обнаруживать новые задачи, что свидетельствует о постоянном исследовании возможностей тестируемой модели. Каждый подграфик соответствует разным парам «модель-учёный/тестируемая модель»: (слева) GPT-4o → GPT-4o, (в центре) GPT-4o → Llama3-8B, (справа) Sonnet 3.5 → GPT-4o

    Рисунок 9 демонстрирует процесс обнаружения задач в ACD, когда GPT-4o выступает и как модель-учёный, и как тестируемая модель, для трёх различных случайных начальных значений (random seeds). Каждая точка на графике соответствует обнаруженной задаче (разные цвета обозначают разные начальные значения), визуализированной с помощью метода t-SNE.

    Несмотря на вариации в начальной инициализации и стохастичность выборки, распределение обнаруженных возможностей остаётся в целом согласованным. Эта устойчивость указывает, что ACD формирует стабильный «сигнатурный профиль возможностей» (capability signature) для фиксированной пары моделей, даже при перезапуске с разных начальных значений. В данном эксперименте для каждого начального значения было выполнено 500 генераций (уменьшенное количество для оптимизации вычислительных затрат).

    Рисунок 9: Сравнение обнаруженных задач для GPT-4o при трех различных начальных значениях (random seeds). Каждый цвет соответствует отдельному начальному значению. Несмотря на незначительные различия в конкретных задачах, общее распределение выявленных возможностей остается в целом согласованным. Это свидетельствует о способности ACD генерировать стабильные "сигнатурные профили возможностей" (capability signatures) для одной и той же тестируемой модели. В каждом запуске использовалось сокращенное количество генераций - 500.
    Рисунок 9: Сравнение обнаруженных задач для GPT-4o при трех различных начальных значениях (random seeds). Каждый цвет соответствует отдельному начальному значению. Несмотря на незначительные различия в конкретных задачах, общее распределение выявленных возможностей остается в целом согласованным. Это свидетельствует о способности ACD генерировать стабильные "сигнатурные профили возможностей" (capability signatures) для одной и той же тестируемой модели. В каждом запуске использовалось сокращенное количество генераций - 500.

    Рисунок 10 демонстрирует зависимость успешности выполнения задач по оценке FM-судьи и людей от предполагаемой сложности задач. В то время как показатель успешности по оценке FM-судьи не показывает значительной вариации в зависимости от пользовательской оценки сложности, успешность по человеческой оценке резко снижается с увеличением предполагаемой сложности. Эти данные дополняют графики сбалансированной F1-меры на Рисунке 3. При этом ACD способен обнаруживать задачи в каждой категории сложности, что указывает на его способность адаптировать сложность задач в соответствии с возможностями тестируемой модели.

    Рисунок 10: Автоматизированные показатели успешности и распределение задач по оценённой человеком сложности.(a-b) Показатели успешности по оценке FM-судьи и людей с 95% доверительными интервалами для разных уровней сложности. Общий уровень успешности обозначен пунктирной линией.(c) Количество задач по категориям сложности. Интересно, что распределение приблизительно соответствует нормальному.
    Рисунок 10: Автоматизированные показатели успешности и распределение задач по оценённой человеком сложности.
    (a-b) Показатели успешности по оценке FM-судьи и людей с 95% доверительными интервалами для разных уровней сложности. Общий уровень успешности обозначен пунктирной линией.
    (c) Количество задач по категориям сложности. Интересно, что распределение приблизительно соответствует нормальному.

    D.2. Дополнительные визуализации для Llama3-8B в качестве тестируемой модели

    Мы представляем дополнительные визуализации для конфигурации GPT-4o (учёный) → Llama3-8B (тестируемая модель) из раздела 5.2.

    Рисунок 11 сравнивает эмбеддинги задач, предложенных GPT-4o в роли учёного: при оценке самой себя (синий), при оценке Llama3-8B (оранжевый). Хотя некоторые кластеры значительно перекрываются, Llama3-8B демонстрирует более частые неудачи в задачах, требующих многошаговой логики и сложных рассуждений (подробнее см. Приложение E.4). Это показывает, что ACD способен адаптивно исследовать потенциальные слабые места тестируемой модели.
    Рисунок 11 сравнивает эмбеддинги задач, предложенных GPT-4o в роли учёного: при оценке самой себя (синий), при оценке Llama3-8B (оранжевый). Хотя некоторые кластеры значительно перекрываются, Llama3-8B демонстрирует более частые неудачи в задачах, требующих многошаговой логики и сложных рассуждений (подробнее см. Приложение E.4). Это показывает, что ACD способен адаптивно исследовать потенциальные слабые места тестируемой модели.

    E. Примеры обнаруженных задач

    В данном разделе представлен обзор и избранные задачи, обнаруженные методом ACD для различных моделей. Мы выявили, что обнаруженные задачи охватывают широкий спектр сложности — от базовых текстовых преобразований до специализированных задач в таких областях, как: криптография, лингвистика, решение сложных головоломок.

    Анализ этих задач позволяет выявить малоизученные возможности языковых моделей и их потенциальные «слепые зоны».

    Важно: Все агенты оценивались с использованием chain-of-thought (см. Приложение B.2). Выборка foundation-моделей стохастична — результаты могут варьироваться. Полный архив обнаруженных задач доступен в GitHub-репозитории

    E.1. Перечень обнаруженных кластеров

    В таблицах 4, 5 и 6 представлены основные кластеры задач для трёх конфигураций «модель-учёный → тестируемая модель»:

    1. GPT-4o (учёный) → GPT-4o (тестируемая)

    2. GPT-4o (учёный) → Llama3-8B (тестируемая)

    3. Sonnet 3.5 (учёный) → GPT-4o (тестируемая)

    Структура таблиц: сортировка по убыванию количества задач в кластере, указан процент успешности выполнения (FM-judge)

    Таблица 4: Обнаруженные кластеры задач для конфигурации GPT-4o (ученый) → GPT-4o (тестируемая модель) (См. раздел 5.1 основной статьи)

    ID

    Название кластера

    Кол-во задач

    Успешность (%)

    1

    Креативная генерация, логические головоломки и вычислительные задачи

    185

    89.7

    2

    Создание и решение головоломок (логика, язык, геометрия)

    104

    70.2

    3

    Визуальная и сенсорная интерпретация и описание

    72

    97.2

    4

    Музыкальная композиция, нотация и анализ

    72

    86.1

    5

    Креативный сторителлинг с ограничениями и нарративной связностью

    69

    94.2

    6

    Научные рассуждения, генерация гипотез и дизайн экспериментов

    69

    98.6

    7

    Генерация диалогов, эмоциональный интеллект и социальные сценарии

    61

    100.0

    8

    Генерация кода, отладка и проектирование алгоритмов

    60

    95.0

    9

    Исторический анализ, генерация нарративов и альтернативных сценариев

    60

    98.3

    10

    Пространственные манипуляции, навигация и трансформации

    51

    74.5

    11

    Лингвистическое творчество, идиомы и культурный перевод

    49

    85.7

    12

    Интерпретация, анализ и синтез данных в различных областях

    49

    77.6

    13

    Стратегическое планирование и сценарии этического выбора

    48

    91.7

    14

    Интерпретация юридических текстов, аргументация и составление контрактов

    41

    100.0

    15

    Аргументация, рассуждения и философский анализ

    41

    90.2

    16

    Генерация и интерпретация юмора в различных контекстах

    41

    87.8

    17

    Генерация, интерпретация и анализ поэзии

    40

    97.5

    18

    Генерация и интерпретация метафор и аналогий

    34

    100.0

    19

    Пошаговая генерация процедур и инструкций по устранению неполадок

    34

    97.1

    20

    Генерация, модификация и анализ кулинарных рецептов

    32

    100.0

    21

    Продвинутые математические рассуждения и многошаговое решение задач

    31

    54.8

    22

    Распознавание и генерация визуальных и геометрических паттернов

    25

    84.0

    23

    Дизайн игр, создание правил и разработка стратегий

    22

    81.8

    24

    Построение и верификация математических и логических доказательств

    21

    90.5

    25

    Генерация диаграмм, механический и UI-дизайн, пространственная интерпретация

    19

    89.5

    Таблица 5: Обнаруженные кластеры задач для конфигурации GPT-4o (ученый) → Llama3-8B (тестируемая модель)
    (См. раздел 5.2 основной статьи)

    ID

    Название кластера

    Кол-во задач

    Успешность (%)

    1

    Креативная и техническая генерация в различных модальностях

    145

    70.3

    2

    Решение и создание головоломок (логика, математика, язык)

    100

    28.0

    3

    Исторический анализ, нарративы и спекулятивные адаптации

    86

    90.7

    4

    Визуальные и сенсорные описания и интерпретации

    82

    90.2

    5

    Диалоги и симуляция эмоциональных сценариев

    74

    89.2

    6

    Генерация кода, отладка и проектирование алгоритмов

    63

    92.1

    7

    Креативное сторителлинг с ограничениями

    62

    91.9

    8

    Этическая аргументация, логические рассуждения и убеждение

    61

    93.4

    9

    Решение математических задач, генерация доказательств и моделирование

    59

    42.4

    10

    Музыкальная композиция, анализ и генерация нот

    57

    49.1

    11

    Пространственный и геометрический дизайн и описание

    54

    53.7

    12

    Идиоматический перевод, интерпретация и культурная адаптация

    44

    65.9

    13

    Структурирование, анализ и визуализация данных

    44

    68.2

    14

    Генерация и анализ поэзии и текстов песен

    44

    84.1

    15

    Технический дизайн и создание документации

    43

    90.7

    16

    Генерация юмора и шуток с анализом

    43

    90.7

    17

    Составление и интерпретация юридических документов

    42

    88.1

    18

    Создание и интерпретация аналогий и метафор

    41

    87.8

    19

    Объяснение и применение научных и технических концепций

    39

    87.2

    20

    Стратегическое принятие решений и планирование в различных сценариях

    38

    71.1

    21

    Генерация научных гипотез и дизайн экспериментов

    34

    97.1

    22

    Генерация и адаптация рецептов с ограничениями

    28

    89.3

    23

    Планирование событий и временные рассуждения

    26

    46.2

    24

    Генерация пошаговых инструкций и обучающих материалов

    25

    68.0

    25

    Распознавание, расширение и генерация паттернов в различных областях

    25

    60.0

    26

    Текстовые трансформации и стилистическая адаптация

    18

    88.9

    27

    Создание и адаптация культурного контента

    18

    100.0

    Таблица 6: Обнаруженные кластеры задач для конфигурации Sonnet 3.5 (ученый) → GPT-4o (тестируемая модель)
    (См. раздел 5.3 основной статьи)

    ID

    Название кластера

    Кол-во задач

    Успешность (%)

    1

    Междисциплинарный креативный дизайн и анализ в различных областях

    382

    90.8

    2

    Междисциплинарный дизайн систем: этика ИИ-нейронаука

    183

    91.3

    3

    Квантовая биология и вычислительный дизайн систем

    179

    87.7

    4

    Междисциплинарная композиция и анализ музыки с использованием ИИ

    174

    91.4

    5

    Квантово-вдохновленные лингвистические модели и приложения

    172

    82.0

    6

    Междисциплинарное моделирование экосистем и климата с ИИ

    127

    90.6

    7

    Квантово-вдохновленный дизайн когнитивных и нейронных систем

    123

    93.5

    8

    Генерация метафор ИИ и кросс-культурная когнитивная лингвистика

    108

    95.4

    9

    Системы ИИ для нейролингвистического изучения языков и перевода

    102

    92.2

    10

    Моделирование и симуляция эволюции языка в различных контекстах

    91

    93.4

    11

    Системы эмоциональной и культурной коммуникации ИИ

    71

    93.0

    12

    Математическая и когнитивная композиция и анализ музыки

    66

    86.4

    13

    Системы ИИ для генерации нейрокогнитивного и культурного искусства

    62

    93.5

    14

    Вдохновленный синестезией дизайн ИИ и кросс-модальных систем

    55

    90.9

    15

    Дизайн и анализ искусственных языков в различных областях

    54

    87.0

    16

    Биомиметический дизайн и устойчивые инженерные решения

    53

    84.9

    17

    Реконструкция древних языков и цивилизаций с использованием ИИ

    49

    81.6

    18

    Синтетическая биология и задачи этического дизайна ИИ

    43

    86.0

    19

    Концептуальное смешение в ИИ и междисциплинарные приложения

    43

    95.3

    20

    Когнитивно-лингвистический дизайн языков для ИИ и программирования

    42

    90.5

    21

    Когнитивный и культурный дизайн нарративов ИИ

    42

    97.6

    22

    Математико-лингвистические системы и междисциплинарный дизайн представлений

    41

    78.0

    23

    Дизайн квантовых алгоритмов и междисциплинарные приложения

    37

    83.8

    24

    Системы ИИ, исследующие лингвистическую относительность и когнитивные эффекты

    36

    97.2

    25

    Когнитивный и лингвистический дизайн и анализ моделей ИИ

    36

    91.7

    26

    Биовдохновленные вычисления и ДНК-ориентированный дизайн систем

    35

    80.0

    27

    Дизайн искусственного сознания и самосознания ИИ

    35

    91.4

    28

    Дизайн систем коммуникации и языков для внеземных цивилизаций

    32

    93.8

    29

    ИИ для визуально-лингвистической абстракции и кросс-модальной интеграции

    32

    84.4

    30

    Квантово-вдохновленные системы для климата, биологии и экосистем

    29

    96.6

    31

    Дизайн и анализ квантовых и постквантовых криптографических систем

    28

    75.0

    32

    Системы кросс-культурной лингвистической адаптации и перевода на основе ИИ

    27

    100.0

    33

    Лингвистический, исторический и культурный дизайн криптографических систем

    27

    77.8

    34

    Креативный междисциплинарный дизайн головоломок и рассуждений

    25

    80.0

    35

    Квантово-вдохновленная композиция музыки и когнитивное моделирование

    24

    79.2

    36

    Биомиметический ИИ и дизайн робототехнических систем

    22

    86.4

    37

    Квантово-вдохновленное создание и анализ нарративов

    21

    95.2

    38

    Кросс-культурное создание идиом и пословиц с интеграцией ИИ

    21

    100.0

    39

    Семантические сети и пространства для задач ИИ и языка

    20

    100.0

    40

    Квантово-вдохновленная интеграция креативности, когниции и искусства

    20

    90.0

    41

    Анализ альтернативной истории и технологического воздействия

    18

    83.3

    42

    Биомиметический ИИ для экологических и устойчивых решений

    18

    94.4

    43

    Дизайн систем экзопланет, ИИ и астробиологические исследования

    18

    94.4

    44

    Дизайн воплощенных мультимодальных систем коммуникации

    17

    88.2

    45

    Перевод абстрактных концепций между модальностями и системами представления

    17

    100.0

    46

    Моделирование и прогнозирование социально-исторических процессов с ИИ

    16

    81.2

    E.2. Ручной отбор "удивительных" задач

    Хотя наша система способна автоматически генерировать и оценивать огромное количество задач, определение того, какие из них действительно являются "удивительными", остается в некоторой степени субъективным. Изначально мы опробовали два основных, более масштабируемых подхода для фильтрации удивительных задач:

    1. Краудсорсинговая фильтрация: Мы попросили участников краудсорсинговой платформы CloudResearch отметить задачи, которые они считают удивительными. Однако мы обнаружили, что около 37% задач были отмечены как удивительные, что свидетельствует об отсутствии четкого консенсуса даже среди пользователей ИИ относительно того, что "должно" быть в возможностях языковых моделей. Такая широкая маркировка оказалась недостаточно эффективной для нашей цели выявления по-настоящему неожиданных успехов или провалов.

    2. Модельная фильтрация: Мы также попытались использовать саму модель для предсказания, какие задачи люди сочтут удивительными. Эти предсказания не всегда соответствовали нашим ожиданиям. Иногда модель отмечала тривиальные успехи как удивительные или, наоборот, пропускала провалы, которые мы находили удивительными.

    Столкнувшись с этими сложностями, мы в конечном итоге выбрали ручной отбор, проводимый авторами исследования. Хотя этот подход более трудоемкий и субъективный, он позволил нам представить набор особенно показательных или контринтуитивных результатов, которые, по нашему мнению, будут представлять широкий интерес для сообщества машинного обучения.

    В перспективе мы ожидаем дальнейшего совершенствования автоматизированных или полуавтоматизированных подходов для более точного выявления и количественной оценки "удивительности". Для каждого представленного примера мы проводили поиск в интернете, чтобы убедиться, что он не был просто заучен из популярных обучающих данных.

    ... часть примеров раздела не приводится, см. в оригинальной публикации...

    G. Детали проведения опроса с участием людей

    Мы представляем сценарий, используемый для проведения человеческой оценки автоматизированных оценок ИИ, применяемых в ACD (Раздел 5.1). Исследование проводилось на платформе CloudResearch (Hartman et al., 2023) с привлечением участников, имеющих опыт работы с крупными языковыми моделями, такими как ChatGPT.

    Формат опроса:

    • Анонимная задача по разметке данных

    • Участникам показывали пример сгенерированного задания (например, написание короткого рассказа ИИ)

    • Детали задания, инструкции и ответ ИИ варьировались для каждой задачи

    Условия проведения:

    • Лимит времени: ≤2 минуты на задачу

    • Оплата: $0.25 USD за каждую выполненную задачу

    • Средняя заработная плата: $15.79 USD/час (с учетом времени завершения опроса)

    • Общая стоимость исследования (включая сервисные сборы): $329.25 USD

    ... примеры раздела и информация о формате отчета не приводится, см. в оригинальной публикации...

Источник

  • 22.06.26 21:51 kimberlyhebert786

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 24.06.26 01:25 Fraddy Pual

    I never thought it would happen to me—but I lost $256,100 in Bitcoin through a shady investment deal. I was shattered, panicked, and convinced my savings were gone forever. Just when I was about to give up, I stumbled upon reviews for FUNDSRETRIEVER, a cyber recovery team with a solid reputation. I decided to give it a shot, and to my absolute shock, they recovered every single cent in record time. Working with them was a lifesaver. If you've been tricked by fake investment platforms, don't lose hope—FUNDSRETRIEVER can help. Contact them here: Email: [email protected] | WhatsApp: +1603512144 8| Telegram: @Fundsretriever

  • 24.06.26 01:27 Fraddy Pual

    I never thought it would happen to me—but I lost $256,100 in Bitcoin through a shady investment deal. I was shattered, panicked, and convinced my savings were gone forever. Just when I was about to give up, I stumbled upon reviews for FUNDSRETRIEVER, a cyber recovery team with a solid reputation. I decided to give it a shot, and to my absolute shock, they recovered every single cent in record time. Working with them was a lifesaver. If you've been tricked by fake investment platforms, don't lose hope—FUNDSRETRIEVER can help. Contact them here: Email: [email protected] | WhatsApp: +16035121448 | Telegram: @Fundsretriever

  • 24.06.26 01:28 Fraddy Pual

    I never thought it would happen to me—but I lost $256,100 in Bitcoin through a shady investment deal. I was shattered, panicked, and convinced my savings were gone forever. Just when I was about to give up, I stumbled upon reviews for FUNDSRETRIEVER, a cyber recovery team with a solid reputation. I decided to give it a shot, and to my absolute shock, they recovered every single cent in record time. Working with them was a lifesaver. If you've been tricked by fake investment platforms, don't lose hope—FUNDSRETRIEVER can help. Contact them here: Email: [email protected] | WhatsApp: +16035121448 | Telegram: @Fundsretriever.

  • 24.06.26 01:58 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 24.06.26 01:58 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 24.06.26 14:16 Universina da Mota

    Becoming a victim of an investment scam is never anyone's intention it often happens because fraudsters exploit trust and a lack of awareness. I would like to express my sincere gratitude to the dedicated team at ResQpro for their professionalism and commitment to helping victims of online investment fraud. Their efforts in assisting individuals with the recovery of stolen assets and holding scammers accountable are truly commendable. If you need assistance or would like to learn more, you can contact them through: Email: [email protected] Alternative Email: [email protected] Telegram: @ResQprofirm WhatsApp: +1 (985) 296-9146

  • 24.06.26 14:21 Elizabeth Thompson

    If you believe you have been the victim of an investment scam, it is important to act promptly and gather all relevant information. Keep records of transaction receipts, wallet addresses, communication logs, account details, and any other evidence related to the incident. Providing accurate documentation can help investigators, financial institutions, legal professionals, or recovery specialists review your case and determine what options may be available. Be cautious of anyone who guarantees the recovery of lost funds or requests large upfront payments. For additional information, you may contact: Email: [email protected] Telegram: @ResQprofirm WhatsApp: +1 (985) 296-9146

  • 24.06.26 15:33 Júlia Castro

    If you have fallen victim to an investment scam, it is important to act quickly and gather all available evidence related to the incident. This may include transaction records, wallet addresses, screenshots of conversations, emails, account details, and any information connected to the individuals or entities involved. Having complete documentation can help professionals assess your situation and explore possible recovery options. Always exercise caution when seeking assistance and carefully verify the credentials of any service provider before proceeding. For further information, you may contact: Email: [email protected] Telegram: @ResQprofirm WhatsApp: +1 (985) 296-9146

  • 24.06.26 22:01 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 24.06.26 22:01 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 25.06.26 21:13 Emilie Safi

    A fraudulent investment scheme operated by BTCMining.limited functions as a fake return scam. In this setup, scammers lure victims with false promises of high returns. Through manipulative tactics, they gain individuals' trust and convince them to invest, ultimately leading to financial loss. If you have ever faced a cyber threat or fallen victim to an online crypto scam and need to reach the authorities, I recommend contacting [email protected], [email protected], WhatsApp +19852969146, telegram @resqprofirm. They are a legitimate team that helps victims of online crypto scams using advanced tools.

  • 25.06.26 21:25 Emilie Safi

    So I ended up losing $38,000 to this platform. At first, they kept asking me to put in more money so I could get into my portfolio. I did that, but then they wouldn’t let me withdraw anything—just kept asking for more deposits. It got way too suspicious, so I stopped. I found this company called ResQProfirm on Google and told them what happened. They got in touch, asked me to walk them through everything, and I gave them all the proof I had. They did an amazing job tracking down my money and getting it back. Big thanks to them at [email protected] and on WhatsApp at +19852969146. Please be careful out there and always research before investing.

  • 26.06.26 01:04 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 26.06.26 01:04 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 26.06.26 02:48 Miriam Rocha

    I trusted this platform with $120,000 of my hard-earned money. Then they started asking for more deposits just so I could access my own portfolio. I paid, but every withdrawal request was denied. They kept pushing for more money. I finally stopped it just felt wrong. Desperate, I found ResQProfirm on Google. They didn't just hear me out; they truly listened. I shared all my proof, and they launched an investigation. Thanks to their hard work, they tracked and returned my funds. From the bottom of my heart, thank you to [email protected] and their WhatsApp +19852969146. Please stay safe and always verify a platform before investing

  • 26.06.26 02:52 Miško Bakić

    I got my $232,000 refund thanks to [email protected] and WhatsApp +19852969146. Highly recommended for anyone in a similar situation.

  • 26.06.26 02:56 Asunción Herrera

    A recovery of $48,330 was facilitated by [email protected]. Individuals who have experienced financial fraud may consider contacting this service.

  • 26.06.26 15:05 Riley Stephens

    If withdrawals keep getting denied, stay calm. I went through the same, and this firm helped me recover everything. Their assistance was outstanding. Contact: [ResQProFirm @Gmail|•|com], Telegram: ResQprofirm, WhatsApp: <+198> <5296> <9146>.

  • 26.06.26 15:09 Antonio Riley

    Withdrawal troubles shouldn’t stress you out. I faced a similar problem, and this firm stepped in and recovered my funds. Their support truly mattered. Contact them: [[email protected], ResQprofirm @aol.com], Telegram: ResQprofirm, WhatsApp: +19852969146.

  • 28.06.26 00:37 kimberlyhebertt673

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 28.06.26 00:37 kimberlyhebertt673

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 29.06.26 11:57 Lisadonato0726

    For 43 years, I struggled with bad credit due to my own poor decisions, and my credit score was around 490. When my girlfriend and I decided to buy a house, a mortgage broker informed us that it would be impossible to secure a mortgage with my credit score. As a result, she referred me to a company called HACK MAVENS CREDIT SPECIALIST, assuring me of their professionalism and ability to assist with credit improvement. Upon contacting them, I was impressed by their professionalism and they assured me that they could help. In less than 6 days, my credit score skyrocketed to 785, and they also successfully resolved issues in my credit report, including the bankruptcy. I am incredibly satisfied with their service and would highly recommend HACK MAVENS CREDIT SPECIALIST for reliable credit repairs. You can reach them at H A C K M A V E N S 5 [AT] G M A I L [DOT] COM or at [+] [1] [2 0 9] [4 1 7] – [1 9 5 7]. Thanks to their help, my girlfriend and I are now proud homeowners.

  • 29.06.26 22:37 riley777

    Back in 2025, I watched my life savings vanish. A thief took every cent. I felt desperate and went looking for a way to get it back. I found a guy here who said he was an expert haha. He talked about special software that could find my missing cash. I trusted him. That was a big mistake. He was just another scammer. I paid him a software fee and then he just stopped answering my texts and ran off with my money too. I felt so ashamed that I kept quiet about it for months. It is hard to admit you got fooled twice. Later on, I found a real pro. she did not use a fancy sales pitch. she just looked at the trans screenshots and followed the path the money took. she worked fast and got my funds back into my account. Having that money back changed everything. I can sleep again. her info; [email protected]. Call/chatroom on Whtasapp/ +44 7476618364.

  • 30.06.26 15:08 wendytaylor015

    My name is Wendy Taylor, I'm from Los Angeles, i want to announce to you Viewer how Capital Crypto Recover help me to restore my Lost Bitcoin, I invested with a Crypto broker without proper research to know what I was hoarding my hard-earned money into scammers, i lost access to my crypto wallet or had your funds stolen? Don’t worry Capital Crypto Recover is here to help you recover your cryptocurrency with cutting-edge technical expertise, With years of experience in the crypto world, Capital Crypto Recover employs the best latest tools and ethical hacking techniques to help you recover lost assets, unlock hacked accounts, Whether it’s a forgotten password, Capital Crypto Recover has the expertise to help you get your crypto back. a security company service that has a 100% success rate in the recovery of crypto assets, i lost wallet and hacked accounts. I provided them the information they requested and they began their investigation. To my surprise, Capital Crypto Recover was able to trace and recover my crypto assets successfully within 24hours. Thank you for your service in helping me recover my $647,734 worth of crypto funds and I highly recommend their recovery services, they are reliable and a trusted company to any individuals looking to recover lost money. Contact email [email protected] OR Telegram @Capitalcryptorecover Call/Text Number +1 (336)390-6684 his contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 30.06.26 15:08 wendytaylor015

    My name is Wendy Taylor, I'm from Los Angeles, i want to announce to you Viewer how Capital Crypto Recover help me to restore my Lost Bitcoin, I invested with a Crypto broker without proper research to know what I was hoarding my hard-earned money into scammers, i lost access to my crypto wallet or had your funds stolen? Don’t worry Capital Crypto Recover is here to help you recover your cryptocurrency with cutting-edge technical expertise, With years of experience in the crypto world, Capital Crypto Recover employs the best latest tools and ethical hacking techniques to help you recover lost assets, unlock hacked accounts, Whether it’s a forgotten password, Capital Crypto Recover has the expertise to help you get your crypto back. a security company service that has a 100% success rate in the recovery of crypto assets, i lost wallet and hacked accounts. I provided them the information they requested and they began their investigation. To my surprise, Capital Crypto Recover was able to trace and recover my crypto assets successfully within 24hours. Thank you for your service in helping me recover my $647,734 worth of crypto funds and I highly recommend their recovery services, they are reliable and a trusted company to any individuals looking to recover lost money. Contact email [email protected] OR Telegram @Capitalcryptorecover Call/Text Number +1 (336)390-6684 his contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 02.07.26 01:22 Lieneke Bonnema

    I highly recommend ResQprofirm for their professional asset recovery services of my $120,000 scammed funds. Their expertise, professionalism, and commitment to achieving results make them a reliable choice for anyone seeking dependable recovery assistance. [email protected], WhatsApp +19852969146, telegram @resqprofirm

  • 02.07.26 01:26 Clara Morin

    I want to extend my deepest appreciation for showing that circumstances do not define one’s potential for greatness. Your support has been a major source of inspiration during my trading journey, and I am sincerely grateful for your insight and mentorship. Thank you so much. [email protected], WhatsApp +19852969146, telegram ResQprofirm

  • 02.07.26 01:31 Robin Hale

    I sincerely want to thank you for demonstrating that anyone can rise above their circumstances and achieve success. Your constant support has been incredibly inspiring during my trading journey, and your wisdom and advice mean so much to me. I appreciate you deeply. [email protected], WhatsApp +19852969146, telegram Resqprofirm

  • 04.07.26 15:32 Fraddy Pual

    There are few companies I trust as much as FUNDSRETRIEVER. When I lost $653,000 in Ethereum to a ruthless scam, I thought my life would never be the same. The betrayal cut deep, but I refused to give up. I searched tirelessly for a legitimate way to recover what was stolen, and finally found FUNDSRETRIEVER—the most competent and compassionate recovery team I could have imagined. They handled my case with precision and care, and in the end, my entire ETH wallet was restored. More than the money, they gave me back my hope and happiness. I'm sharing my story because I want others to know that recovery is possible. If a scam has taken from you, don't hesitate—contact FUNDSRETRIEVER today. Email: FUNDSRETRIEVER1@ Gmail.com | WhatsApp: +1 603-512-1448 | Telegram: @FUNDSRETRIEVER

  • 05.07.26 14:44 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/Text: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 05.07.26 14:44 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/Text: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 06.07.26 16:20 Olga Ognjanović

    Having trouble withdrawing funds from an investment platform? ResQprofirm provides fund recovery assistance for individuals seeking help with investment-related disputes. I reached out to them after experiencing problems with an investment platform, and I appreciated their professionalism and support throughout the process. If you're facing a similar situation, act promptly, keep records of your transactions and communications, and seek assistance from a qualified recovery service or the appropriate authorities. Contact: Email: [email protected] Telegram: @ResQprofirm WhatsApp: +1 985 296 9146

  • 06.07.26 16:31 Joseph Weigl

    Invest wisely and stay cautious. Don't be influenced by promises of unusually high returns or convincing sales pitches from brokers. I learned this the hard way after falling victim to an investment scam that promised huge profits. Fortunately, I acted quickly and reported the incident to a recovery firm for assistance. Contact: Email: [email protected] Telegram: @Resqprofirm WhatsApp: +1 985 296 9146

  • 06.07.26 16:33 Jaran Løvlien

    A heartfelt thank you to RESQPRO FIRM for their commitment and professionalism throughout the investigation of my case. Their team worked diligently and helped recover assets valued at $88,000, which were returned to my wallet. I truly appreciate their support, clear communication, and dedication, and I'm grateful for the assistance I received. Contact: Email: [email protected] Telegram: @Resqprofirm WhatsApp: +1 985 296 9146

  • 07.07.26 18:00 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 07.07.26 18:01 robertalfred175

    CRYPTO SCAM RECOVERY SUCCESSFUL – A TESTIMONIAL OF LOST PASSWORD TO YOUR DIGITAL WALLET BACK. My name is Robert Alfred, Am from Australia. I’m sharing my experience in the hope that it helps others who have been victims of crypto scams. A few months ago, I fell victim to a fraudulent crypto investment scheme linked to a broker company. I had invested heavily during a time when Bitcoin prices were rising, thinking it was a good opportunity. Unfortunately, I was scammed out of $120,000 AUD and the broker denied me access to my digital wallet and assets. It was a devastating experience that caused many sleepless nights. Crypto scams are increasingly common and often involve fake trading platforms, phishing attacks, and misleading investment opportunities. In my desperation, a friend from the crypto community recommended Capital Crypto Recovery Service, known for helping victims recover lost or stolen funds. After doing some research and reading multiple positive reviews, I reached out to Capital Crypto Recovery. I provided all the necessary information—wallet addresses, transaction history, and communication logs. Their expert team responded immediately and began investigating. Using advanced blockchain tracking techniques, they were able to trace the stolen Dogecoin, identify the scammer’s wallet, and coordinate with relevant authorities to freeze the funds before they could be moved. Incredibly, within 24 hours, Capital Crypto Recovery successfully recovered the majority of my stolen crypto assets. I was beyond relieved and truly grateful. Their professionalism, transparency, and constant communication throughout the process gave me hope during a very difficult time. If you’ve been a victim of a crypto scam, I highly recommend them with full confidence contacting: Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text: +1 (336) 390-6684 Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 09.07.26 19:06 Toivo Walli

    I lost 8.56btc to a fake Bitcoin mining site, I tried withdrawing but couldn't approved my process, I reported to !R£SQPROFIRM! via °R£SQproFirm°àt°gmail•com° °tEL£°gram=R£SQprofirm °whaT°Zap+198°52°96°91°46

  • 09.07.26 19:10 Misty Alexander

    Ongoing messages demanding more money before approving withdrawals are a major red flag. Stop engaging and report the incident to a trusted re­covery team. For professional support, you can contact R£sQprofirm using °ResQproFirm°àt°g,*ma'il(•)¢m°, TEL£gram ResQprofirm, or |whaTZap| +1-985-296-9146.

  • 09.07.26 19:13 Clara Soto

    Anyone receiving continued requests for additional deposits from a scam platform should immediately cut off communication and submit the case to a reputable re­covery service for investigation. R£sQprofirm is a dependable firm you can reach at °ResQproFirm°àt°g,*ma'il(•)¢om°, TEL£gram ResQprofirm, or |whaTZap| +1-985-296-9146.

  • 12.07.26 03:30 Kora Baltacha

    Time is critical. Act now by reaching out to a reputable, seasoned recovery specialist who will guide you every step of the way. You'll need to submit transaction proof, scammer details, and any other useful information. Armed with this, the experts can trace and attempt to pull your money back from the scammers' hidden accounts or wallets. Best of all, R£sQprofirm provides recovery help without charging any upfront fees. Contact them immediately via Telegram @ResQprofirm, WhatsApp +19852969146, or email [email protected].

  • 12.07.26 03:33 Pahal Mathew

    It's important to move proactively by engaging an experienced recovery specialist. They will assist you throughout the process. To help them, provide: · Transaction evidence · Scammer information · Any additional relevant details The experts will then track and try to retrieve your funds from the scammers' hidden accounts or wallets. R£sQprofirm offers recovery assistance with no upfront fees. Contact: Telegram: @ResQprofirm WhatsApp: +19852969146 Email: [email protected]

  • 13.07.26 23:49 [email protected]

    One of the biggest concerns I have about cryptocurrency is the lack of regulation. It creates opportunities for scammers to invent convincing stories and fraudulent investment schemes. Unfortunately, some social media platforms continue to display these ads because they profit from them, even after users report them.I personally clicked on a Facebook advertisement for a company called Chickenfastmining and ended up losing more than $120,000 in a scam. I reported the ad, but nothing was done. Later, through a Reddit community, I found a recovery service called CYBERBERSPY that, in my personal experience, they helped me recover $110,000 of my lost funds. If you've been a victim of a cryptocurrency scam, don't lose hope. Explore your options carefully, and always verify the legitimacy of any recovery service before trusting them or paying any fees. Based on my own experience, CYBERBERSPY was helpful to me and i was able to recover my funds back, but I encourage everyone to do their own research before using any recovery service.i highly recommend: ([email protected])

  • 15.07.26 11:53 Sarah Green

    Thank you for showing that success is possible regardless of where someone starts. Your encouragement, valuable advice, and continuous support have inspired me throughout my $160,457k crypto investment recovery journey. I truly appreciate your kindness and dedication. Resqprofirm @gmail.com Telegram: Resqprofirm

  • 15.07.26 11:58 Lily Gagné

    I sincerely appreciate you for proving that anyone can overcome challenges and achieve success. Your unwavering support throughout my trading investment scam of $88,890 recovery journey has been truly inspiring, and your guidance and wisdom have meant a great deal to me. Thank you for everything ResQprofirm@ gmail.com, ResQprofirm on the telegram.

  • 16.07.26 21:38 patricialovick86

    How To Recover Your Bitcoin Without Falling Victim To Scams: A  Testimony Experience With Capital Crypto Recover Services, Contact Telegram: @Capitalcryptorecover Dear Everyone, I would like to take a moment to share my positive experience with Capital Crypto Recover Services. Initially, I was unsure if it would be possible to recover my stolen bitcoins. However, with their expertise and professionalism, I was able to fully recover my funds. Unfortunately, many individuals fall victim to scams in the cryptocurrency space, especially those involving fraudulent investment platforms. However, I advise caution, as not all recovery services are legitimate. I personally lost $273,000 worth of Bitcoin from my Binance account due to a deceptive platform. If you have suffered a similar loss, you may be considering crypto recovery, The Capital Crypto Recover is the most knowledgeable and effective Capital Crypto Recovery Services assisted me in recovering my stolen funds within 24 hours, after getting access to my wallet. Their service was not only prompt but also highly professional and effective, and many recovery services may not be trustworthy. Therefore, I highly recommend Capital Crypto Recover to you. i do always research and see reviews about their service, For assistance finding your misplaced cryptocurrency, get in touch with them, They do their jobs quickly and excellently, Stay safe and vigilant in the crypto world. Contact: [email protected]  You can reach them via email at [email protected] OR Call/Text Number +1 (336)390-6684 his contact website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 16.07.26 21:38 patricialovick86

    How To Recover Your Bitcoin Without Falling Victim To Scams: A  Testimony Experience With Capital Crypto Recover Services, Contact Telegram: @Capitalcryptorecover Dear Everyone, I would like to take a moment to share my positive experience with Capital Crypto Recover Services. Initially, I was unsure if it would be possible to recover my stolen bitcoins. However, with their expertise and professionalism, I was able to fully recover my funds. Unfortunately, many individuals fall victim to scams in the cryptocurrency space, especially those involving fraudulent investment platforms. However, I advise caution, as not all recovery services are legitimate. I personally lost $273,000 worth of Bitcoin from my Binance account due to a deceptive platform. If you have suffered a similar loss, you may be considering crypto recovery, The Capital Crypto Recover is the most knowledgeable and effective Capital Crypto Recovery Services assisted me in recovering my stolen funds within 24 hours, after getting access to my wallet. Their service was not only prompt but also highly professional and effective, and many recovery services may not be trustworthy. Therefore, I highly recommend Capital Crypto Recover to you. i do always research and see reviews about their service, For assistance finding your misplaced cryptocurrency, get in touch with them, They do their jobs quickly and excellently, Stay safe and vigilant in the crypto world. Contact: [email protected]  You can reach them via email at [email protected] OR Call/Text Number +1 (336)390-6684 his contact website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 17.07.26 19:24 laimqq90

    I recommend Marie when it comes to recovering lost/stolen ust/bitcoin or any kind of cryptocurrencies' from fake investment platforms because they're well specialized in that area and you'll get your money back in full. I can boldly say this right now based on my prior deal i had with them; she was the only one who was able to recover my lost money $52,760 dollars back to my account, Only * ([email protected] and WhatsApp +1 7127594675 successful in recovering my money. They are the only one who can fully restore your lost funds to your account without any deductions, I really value their work and am recommending her to you today. THANK ME LATER

  • 17.07.26 20:12 martinsjude080

    Needs Online Fraud Help Contact Mighty Hacker Recovery https://mightyhackarrecovery.com I lost $292,900 in Bitcoin after investing with an online mining company. After realizing I had been scammed, I spent a long time searching for ways to recover my funds and contacted several services without success. During my research, I came across Mighty Hacker Recovery through Google and YouTube. What caught my attention was that they said they would not require any upfront payment before providing their recovery service. I decided to contact them to discuss my case and understand their process. Throughout the process, they kept me informed about the progress. After several days, I was asked to provide my Bitcoin wallet address, and my case was concluded. Their fee was handled after the service rather than being requested in advance. If you've been the victim of a cryptocurrency scam, it's important to do your own research, ask questions, and carefully evaluate any recovery service before proceeding. Every case is different, so take the time to verify information and understand the process before making any decisions. For Bitcoin scam recovery, cryptocurrency scam, crypto recovery service, recover stolen Bitcoin, Bitcoin fraud help, blockchain investigation, crypto wallet recovery, online investment scam, digital asset recovery, and crypto scam support. Contact Them on WhatsApp +1 (343) 947-3496 or [email protected] or [email protected] or https://mightyhackarrecovery.com Scam recovery Online fraud help Scam alert Report fraud Fraud investigation Fake website checker Scam checker Identity theft protection Consumer protection Chargeback for scam Wire transfer scam Tech support scam Employment scam Rental scam Shopping scam Email scam WhatsApp scam Telegram scam Facebook scam Instagram scam

  • 18.07.26 17:12 Malthe Larsen

    My experience with OKX has been deeply frustrating. For months, my account withdrawals were restricted with no explanation or resolution. Multiple emails to their support team were ignored, leaving me without answers or reassurance. This complete lack of communication shattered my trust. I ultimately regained access to my funds only through the help of a third-party recovery service, ResQProfirm. What should have been a reliable platform instead made me feel helpless and cut off from my own assets. [email protected], WhatsApp +19852969146, telegram @Resqprofirm

  • 18.07.26 17:42 پریا رضایی

    OKX has been a major disappointment. My withdrawals were restricted for months, and repeated attempts to contact support went unanswered. This silence destroyed my confidence in the platform. I was only able to recover my funds through a third-party service, ResQProfirm. I trusted OKX for its reliability, but the experience left me feeling trapped and helpless. Timely communication and access to one’s own money should be a basic standard. [email protected], WhatsApp +19852969146, telegram: ResQprofirm

  • 18.07.26 17:46 Adem Akışık

    I truly didn’t expect such an outstanding outcome. Recovering my $49,360 felt impossible at first, but ResQprofirm’s dedication and persistence made it happen. I hold their team in the highest regard. [email protected], WhatsApp +19852969146

  • 18.07.26 23:51 bernalzenaida

    WhatsApp https://wa.link/fhle97 Telegram https://msng.link/o?@techcyberforc=tg As cryptocurrency continues to reshape global finance, cybercriminals are finding new ways to exploit investors through scams, hacks, phishing attacks, fake investment platforms, and other forms of digital asset fraud. For many victims, knowing where to turn after a loss can be one of the biggest challenges. Techy Force Cyber Retrieval was founded with one clear mission: to give victims of crypto fraud a fighting chance through professional blockchain investigations and cybersecurity expertise. Our team brings together experienced blockchain analysts, digital forensic specialists, cybersecurity professionals, and legal partners who work collaboratively to investigate cryptocurrency-related crimes. Using advanced blockchain forensic tools and global investigative techniques, we analyze transaction histories, trace digital asset movements where possible, identify valuable investigative leads, and prepare evidence that may assist clients and the appropriate authorities. We believe blockchain should represent transparency, accountability, and trust—not fear. That’s why we’re committed to helping victims understand their options, navigate the investigative process, and take informed action after cryptocurrency fraud. Every case is different, and while no legitimate recovery service can promise a successful recovery, acting quickly and working with experienced professionals can improve the quality of an investigation. At Techy Force Cyber Retrieval, we do more than investigate digital crimes—we advocate for victims, pursue the facts, and help people regain confidence after cryptocurrency fraud. WhatsApp https://wa.link/fhle97 Telegram https://msng.link/o?@techcyberforc=tg Crypto fraud doesn’t have to be the end of the road. It’s where our investigation begins.

  • 19.07.26 04:10 Fraddy Pual

    I can't thank Fundsretriever enough for everything they did for me. My name is Vanessa Conway, and I'm here to tell you my story of how I recovered money I never thought I'd see again. A few months ago, I put a significant amount of money into what looked like a genuine online investment company. At first, it felt real—they showed me fake profits and convinced me to invest even more. But when I tried to cash out, they went quiet and started asking for extra fees. That's when it hit me—I had been scammed. I was heartbroken, frustrated, and didn't know where to turn. That money was my savings—months of hard work gone. Then I found Fundsretriever online. I reached out, hoping for a miracle. Right away, their team made me feel heard. They were responsive, knowledgeable, and walked me through everything. They didn't just take my case—they took it seriously and kept me in the loop every step of the way. I finally felt like I had real experts fighting for me. And guess what? They actually got my money back. It wasn't instant, and it took teamwork, but it happened. When I saw those funds returned, I cried with joy. I'm sharing this so that anyone else out there who's been scammed knows—don't lose hope. Do your research before investing, and stay far away from platforms that promise too much too fast. And if you've already been stung, don't wait—get professional help immediately. Thank you, Fundsretriever, from the bottom of my heart. You didn't just recover my money—you restored my faith. — Vanessa Conway 📧 [email protected] 📱 WhatsApp: +16035121448 💬 Telegram: @Fundsretriever

  • 19.07.26 19:53 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 19.07.26 19:53 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 19.07.26 19:54 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 30.07.26 00:04 Ahmed

    A really cool analysis, thank you. I was especially struck by how strictly the order is defined: data processing and formatting come first, with color only at the very end. This really saves you from the typical mistake of "first a pretty palette, then we figure out what the chart is for." And the palette validator with OKLCH + colorblindness check is absolutely fantastic; you almost never see that in regular tools. By the way, while reading about rank-trajectory and the logarithmic scale, I immediately remembered how convenient it is to analyze dynamics on charts in ExpertOption—I've been trading there for quite some time now. When the data is well visualized, decisions are noticeably easier and more relaxed. I also liked the point about "no more than eight colors" and the dual-axis ban. Strict restrictions sometimes actually produce better results than complete freedom. I'll try this approach myself.

  • 30.07.26 17:27 wendytaylor015

    My name is Wendy Taylor, I'm from Los Angeles, i want to announce to you Viewer how Capital Crypto Recover help me to restore my Lost Bitcoin, I invested with a Crypto broker without proper research to know what I was hoarding my hard-earned money into scammers, i lost access to my crypto wallet or had your funds stolen? Don’t worry Capital Crypto Recover is here to help you recover your cryptocurrency with cutting-edge technical expertise, With years of experience in the crypto world, Capital Crypto Recover employs the best latest tools and ethical hacking techniques to help you recover lost assets, unlock hacked accounts, Whether it’s a forgotten password, Capital Crypto Recover has the expertise to help you get your crypto back. a security company service that has a 100% success rate in the recovery of crypto assets, i lost wallet and hacked accounts. I provided them the information they requested and they began their investigation. To my surprise, Capital Crypto Recover was able to trace and recover my crypto assets successfully within 24hours. Thank you for your service in helping me recover my $647,734 worth of crypto funds and I highly recommend their recovery services, they are reliable and a trusted company to any individuals looking to recover lost money. Contact email [email protected] OR Telegram @Capitalcryptorecover Call/Text Number +1 (336)390-6684 his contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 30.07.26 17:27 wendytaylor015

    My name is Wendy Taylor, I'm from Los Angeles, i want to announce to you Viewer how Capital Crypto Recover help me to restore my Lost Bitcoin, I invested with a Crypto broker without proper research to know what I was hoarding my hard-earned money into scammers, i lost access to my crypto wallet or had your funds stolen? Don’t worry Capital Crypto Recover is here to help you recover your cryptocurrency with cutting-edge technical expertise, With years of experience in the crypto world, Capital Crypto Recover employs the best latest tools and ethical hacking techniques to help you recover lost assets, unlock hacked accounts, Whether it’s a forgotten password, Capital Crypto Recover has the expertise to help you get your crypto back. a security company service that has a 100% success rate in the recovery of crypto assets, i lost wallet and hacked accounts. I provided them the information they requested and they began their investigation. To my surprise, Capital Crypto Recover was able to trace and recover my crypto assets successfully within 24hours. Thank you for your service in helping me recover my $647,734 worth of crypto funds and I highly recommend their recovery services, they are reliable and a trusted company to any individuals looking to recover lost money. Contact email [email protected] OR Telegram @Capitalcryptorecover Call/Text Number +1 (336)390-6684 his contact: [email protected] His website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 31.07.26 16:21 rssllhrnsb

    I learned an important lesson after investing in what appeared to be a genuine opportunity. Unfortunately, I was unable to access my funds, which reinforced the importance of carrying out thorough due diligence, checking whether an investment is appropriately regulated, and seeking qualified professional advice rather than relying solely on online reviews or testimonials. During the process of addressing my case, I worked with Mrs. Doris Ashley, who communicated clearly, provided regular updates, and handled the matter in a professional manner. According to my experience, I have recovered $50,000 so far, while efforts to resolve the remaining balance are still in progress. If you wish to contact her, the details I used are: Mrs. Tatiana Sorina
TEXT : (tatianasorina06 at G.Ma IL ..c 0 m ) Before committing money to any investment, take time to verify the legitimacy of the platform, confirm any relevant regulatory authorisations, and avoid investing more than you can comfortably afford to lose.

  • 01.08.26 15:05 keithwilson9899

    ETHEREUM RECOVERY ASSISTANCE: CAPITAL CRYPTO RECOVER HELPED ME RECOVER $98,000 WORTH OF LOST ETH In cases of cryptocurrency scams, having accurate information and trusted support is essential. I would like to recommend Capital Crypto Recover Service, a professional team that specializes in assisting individuals with the recovery of lost or stolen Bitcoin and Ethereum (ETH). Their experienced experts are dedicated to helping victims of digital asset fraud by carefully analyzing each case, developing strategic recovery plans, Capital Crypto Recover Service knowledgeable team's primary goals are to satisfy clients and offer significant support and working diligently toward fund retrieval. The team is committed to providing reliable assistance and maintaining a high level of client satisfaction. Based on my assessment, their reputation professionalism and a strong commitment to their clients. If you have experienced a cryptocurrency loss, you can contacting them for further assistance Phone (Call/Text): +1 (336) 390-6684 Email: [email protected] Alternate Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 01.08.26 15:05 keithwilson9899

    ETHEREUM RECOVERY ASSISTANCE: CAPITAL CRYPTO RECOVER HELPED ME RECOVER $98,000 WORTH OF LOST ETH In cases of cryptocurrency scams, having accurate information and trusted support is essential. I would like to recommend Capital Crypto Recover Service, a professional team that specializes in assisting individuals with the recovery of lost or stolen Bitcoin and Ethereum (ETH). Their experienced experts are dedicated to helping victims of digital asset fraud by carefully analyzing each case, developing strategic recovery plans, Capital Crypto Recover Service knowledgeable team's primary goals are to satisfy clients and offer significant support and working diligently toward fund retrieval. The team is committed to providing reliable assistance and maintaining a high level of client satisfaction. Based on my assessment, their reputation professionalism and a strong commitment to their clients. If you have experienced a cryptocurrency loss, you can contacting them for further assistance Phone (Call/Text): +1 (336) 390-6684 Email: [email protected] Alternate Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 03.08.26 20:05 Philip

    I was a victim of a crypto theft involving a Pink Drainer, which resulted in the theft of my Wrapped Bitcoin (WBTC) from my Polygon network. The experience was incredibly frustrating and distressing, as I had no idea how to recover my funds. Unfortunately, by the time I noticed the theft, the funds had already been drained to an address that I had no control over, making it seem like an irreversible situation.The attack happened when I clicked on what appeared to be a legitimate link. I didn’t realize at the time that it was a phishing attempt designed to siphon off my private keys and access my wallet. The Pink Drainer, a type of malicious script used by attackers, is specifically designed to exploit such vulnerabilities in crypto wallets. The moment I realized that my WBTC had been drained from my Polygon network. I felt completely helpless, as I didn’t have direct access to the thief's address, and there was no way to reverse the transaction on my own at that point, I started searching for ways to recover my funds, but most resources only offered generic advice that wasn’t practical in this particular case. I quickly realized that if I wanted to have any hope of getting my assets back, I would need professional assistance. After some research, I came across a reliable and trusted recovery team called Aspen Recovery Experts. Their expertise in cryptocurrency recovery, especially in cases like mine, seemed promising.I decided to reach out to Aspen Recovery Experts, and I’m incredibly grateful that I did. Their team of crypto recovery experts was able to help me trace the stolen funds and identify the path the funds took after they left my wallet. Using advanced tools and techniques, they were able to track the transactions on the blockchain, helping me understand where my WBTC had been sent. More importantly, they worked tirelessly to assist me in contacting the necessary parties and even interfaced with blockchain analysts to help facilitate the recovery process.Thanks to their efforts, I was able to successfully recover my stolen funds. The entire process took some time, but the Aspen Recovery Experts dedicated team provided regular updates and kept me informed throughout the process, which gave me a sense of hope and relief during an otherwise stressful time. If you’re ever in a similar situation, I highly recommend reaching out to a trusted recovery team like Aspen Recovery Expertshhh . Their professionalism, knowledge, and expertise were critical in helping me recover my funds and regain control of my crypto assets. Whatsapp : +1 747 231 9036 Telegram : @ prohackerspy Email : [email protected]

  • 03.08.26 20:06 Philip

    I was a victim of a crypto theft involving a Pink Drainer, which resulted in the theft of my Wrapped Bitcoin (WBTC) from my Polygon network. The experience was incredibly frustrating and distressing, as I had no idea how to recover my funds. Unfortunately, by the time I noticed the theft, the funds had already been drained to an address that I had no control over, making it seem like an irreversible situation.The attack happened when I clicked on what appeared to be a legitimate link. I didn’t realize at the time that it was a phishing attempt designed to siphon off my private keys and access my wallet. The Pink Drainer, a type of malicious script used by attackers, is specifically designed to exploit such vulnerabilities in crypto wallets. The moment I realized that my WBTC had been drained from my Polygon network. I felt completely helpless, as I didn’t have direct access to the thief's address, and there was no way to reverse the transaction on my own at that point, I started searching for ways to recover my funds, but most resources only offered generic advice that wasn’t practical in this particular case. I quickly realized that if I wanted to have any hope of getting my assets back, I would need professional assistance. After some research, I came across a reliable and trusted recovery team called Aspen Recovery Experts. Their expertise in cryptocurrency recovery, especially in cases like mine, seemed promising.I decided to reach out to Aspen Recovery Experts, and I’m incredibly grateful that I did. Their team of crypto recovery experts was able to help me trace the stolen funds and identify the path the funds took after they left my wallet. Using advanced tools and techniques, they were able to track the transactions on the blockchain, helping me understand where my WBTC had been sent. More importantly, they worked tirelessly to assist me in contacting the necessary parties and even interfaced with blockchain analysts to help facilitate the recovery process.Thanks to their efforts, I was able to successfully recover my stolen funds. The entire process took some time, but the Aspen Recovery Experts dedicated team provided regular updates and kept me informed throughout the process, which gave me a sense of hope and relief during an otherwise stressful time. If you’re ever in a similar situation, I highly recommend reaching out to a trusted recovery team like Aspen Recovery Expertshhh . Their professionalism, knowledge, and expertise were critical in helping me recover my funds and regain control of my crypto assets. Whatsapp : +1 747 231 9036 Telegram : @ prohackerspy Email : [email protected]

  • 04.08.26 11:05 Kisnoles

    Excellent analysis, thank you. I was particularly struck by how rigidly the skill sets the order: data processing and form come first, with color coming last. This really cures the habit of "first a pretty palette, then we'll figure it out." A palette validator using OKLCH + color blindness + WCAG is something most chart generators lack. And regarding the boundaries of competence, it's very clear. Where there's a self-checking loop (color), you delegate freely. Where there's a heuristic (form, data interpretation), you remain the final filter. This is a universal principle, not just for /dataviz. By the way, when you look at trading dashboards (including those of decent platforms like ExpertOption), it's immediately clear who thought about readability and who just threw in rainbow lines. Tools like this skill could greatly improve the quality of analytics. Thanks again for the detailed analysis – saved.

  • 04.08.26 12:37 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 04.08.26 12:37 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] Call/Text Number: +1 (336) 390-6684

  • 06.08.26 08:11 ROMMYHENDERSON344

    All you need is to hire an expert to help you accomplish that. If there's any need to spy on your partner's phone. From my experience I lacked evidence to confront my husband on my suspicion on his infidelity, until I came across REALCYBERHACKERS which many commend him of assisting them in their spying mission. So I contacted him and he provided me with access into his phone to view all text messages, call logs, WhatsApp messages and even her location. This evidence helped me move him off my life . I recommend you consult REALCYBERHACKERS AT gmail com or whatsapp +14106350697 if you need access to your partner's phone or any kind of hacking, they carry out all kinds of hacking job

  • 06.08.26 13:56 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/Text: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 06.08.26 13:56 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/Text: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 11.08.26 03:43 raymont0714

    I recommend a trusted cybersecurity PRO with experience in authorized device access, security testing, and data recovery. SHE work only with the owner's consent and follow all legal and privacy rules on meta data. With permission, this specialist can recover lost files, check device security offline & online, and review texts, call records, or hidden data (spy or lurk around a cheating partner or colleuge). Strict confidentiality agreements protect the information, and client details remain private. The work is careful, efficient, and suited to complex cases. For help securing or recovering information from a phone or another electronic device, use the details below 2 consult [email protected] +44 7476618364 I trust her secrecy a living witness. Her discretion is unmatched, ensuring your privacy is always maintained

  • 12.08.26 16:37 rssllhrnsb

    I learned an important lesson after investing in what appeared to be a genuine opportunity. Unfortunately, I was unable to access my funds, which reinforced the importance of carrying out thorough due diligence, checking whether an investment is appropriately regulated, and seeking qualified professional advice rather than relying solely on online reviews or testimonials. During the process of addressing my case, I worked with Mrs. Tatiana Sorina , who communicated clearly, provided regular updates, and handled the matter in a professional manner. According to my experience, I have recovered $50,000 so far, while efforts to resolve the remaining balance are still in progress. If you wish to contact her, the details I used are: Mrs. Tatiana Sorina
TEXT : (tatianasorina06 at G_Ma IL dot ..c 0 m)…. Before committing money to any investment, take time to verify the legitimacy of the platform, confirm any relevant regulatory authorisations, and avoid investing more than you can comfortably afford to lose.

  • 16.08.26 01:44 Matt Kegan

    CapitalNode Analytics. They help to investigate and recover stolen digital assets from fake trading platforms. Great firm i must say.

  • 18.08.26 04:59 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone WhatsApp/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 18.08.26 04:59 marcushenderson624

    Bitcoin Recovery Testimonial After falling victim to a cryptocurrency scam group, I lost $354,000 worth of USDT. I thought all hope was lost from the experience of losing my hard-earned money to scammers. I was devastated and believed there was no way to recover my funds. Fortunately, I started searching for help to recover my stolen funds and I came across a lot of testimonials online about Capital Crypto Recovery, an agent who helps in recovery of lost bitcoin funds, I contacted Capital Crypto Recover Service, and with their expertise, they successfully traced and recovered my stolen assets. Their team was professional, kept me updated throughout the process, and demonstrated a deep understanding of blockchain transactions and recovery protocols. They are trusted and very reliable with a 100% successful rate record Recovery bitcoin, I’m grateful for their help and highly recommend their services to anyone seeking assistance with lost crypto. Contact: [email protected] Phone WhatsApp/Text Number: +1 (336) 390-6684 Email: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 19.08.26 14:50 BAYER7043

    My account was locked, and I couldn’t access my own information until [email protected] +447476618364 whats?up? helped me recover it. This lady hacker was kind and professional, but this experience showed me how risky account lockouts can be. If you’re facing the same problem, do not panic consult her A. S. A. P. Be careful with recovery agents outchea, and research their name, business, and reviews before sharing any details. Never send passwords, security codes, banking information, or copies of your ID unless you’ve confirmed who you’re dealing with. Be wary of promises that sound too good to be true, especially claims that require little information or guarantee instant access with outrageous fees.

  • 20.08.26 11:32 michaeldavenport218

    I was recently scammed out of $53,000 by a fraudulent Bitcoin investment scheme, which added significant stress to my already difficult health issues, as I was also facing cancer surgery expenses. Desperate to recover my funds, I spent hours researching and consulting other victims, which led me to discover the excellent reputation of Capital Crypto Recover, I came across a Google post It was only after spending many hours researching and asking other victims for advice that I discovered Capital Crypto Recovery’s stellar reputation. I decided to contact them because of their successful recovery record and encouraging client testimonials. I had no idea that this would be the pivotal moment in my fight against cryptocurrency theft. Thanks to their expert team, I was able to recover my lost cryptocurrency back. The process was intricate, but Capital Crypto Recovery's commitment to utilizing the latest technology ensured a successful outcome. I highly recommend their services to anyone who has fallen victim to cryptocurrency fraud. For assistance contact [email protected] and on Telegram OR WhatsApp Number +1 (336)390-6684 via email: [email protected] you can visit his website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 20.08.26 11:32 michaeldavenport218

    I was recently scammed out of $53,000 by a fraudulent Bitcoin investment scheme, which added significant stress to my already difficult health issues, as I was also facing cancer surgery expenses. Desperate to recover my funds, I spent hours researching and consulting other victims, which led me to discover the excellent reputation of Capital Crypto Recover, I came across a Google post It was only after spending many hours researching and asking other victims for advice that I discovered Capital Crypto Recovery’s stellar reputation. I decided to contact them because of their successful recovery record and encouraging client testimonials. I had no idea that this would be the pivotal moment in my fight against cryptocurrency theft. Thanks to their expert team, I was able to recover my lost cryptocurrency back. The process was intricate, but Capital Crypto Recovery's commitment to utilizing the latest technology ensured a successful outcome. I highly recommend their services to anyone who has fallen victim to cryptocurrency fraud. For assistance contact [email protected] and on Telegram OR WhatsApp Number +1 (336)390-6684 via email: [email protected] you can visit his website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 23.08.26 20:02 leslieyee

    Excellent analysis by /dataviz! I was particularly struck by how strictly the order is defined: "data meaning first, color last" and how the validator actually adjusts the palette according to OKLCH, color blindness, and WCAG standards. These rules greatly improve the quality of charts. By the way, a similar approach to clean and legible charts is highly valued in trading—for example, on the ExpertOption platform, the interface and price visualization are designed to ensure information is read instantly and without unnecessary noise.

  • 25.08.26 13:44 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/WhatsApp: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 25.08.26 13:44 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/WhatsApp: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 30.08.26 15:37 [email protected]

    Discovering I had been defrauded, I searched online for services claiming to recover stolen ETH. I contacted several companies, but none succeeded. Although some claimed they could trace assets or recover funds, I could not verify their success or recover my money. I later found SYLVESTER BRYANT Recovery through Google. After contacting him, he recovered 450,000,00. He can be reached at [email protected] or WhatsApp at +1 512 577 7957.

  • 30.08.26 15:37 [email protected]

    Discovering I had been defrauded, I searched online for services claiming to recover stolen ETH. I contacted several companies, but none succeeded. Although some claimed they could trace assets or recover funds, I could not verify their success or recover my money. I later found SYLVESTER BRYANT Recovery through Google. After contacting him, he recovered 450,000,00. He can be reached at [email protected] or WhatsApp at +1 512 577 7957.

  • 01.09.26 11:16 lisawerth897

    My Experience With Cryptocurrency — CAPITAL CRYPTO RECOVER I lost over $82,000 in Bitcoin after falling victim to a fraudulent online investment scheme. After realizing I had been scammed, I spent considerable time researching possible ways to recover my funds. During my research, I came across CAPITAL CRYPTO RECOVER and decided to contact them after reading their reported success record and encouraging client positive reviews and testimonials. Their team guided me through the recovery process, and I was grateful to successfully recover my lost cryptocurrency. The experience was challenging, but I appreciated the assistance and support I received throughout the process. I’m sharing my experience in the hope that it may encourage other victims to carefully research their options and verify any recovery service before proceeding. I will forever be thankful to you CAPITAL CRYPTO RECOVER 📧 [email protected] 🌐 Website: recovercapital.wixsite.com/capital-crypto-rec-1 📧 [email protected] 📞 Call/WhatsApp: +1 (336) 390-6684

  • 01.09.26 11:16 lisawerth897

    My Experience With Cryptocurrency — CAPITAL CRYPTO RECOVER I lost over $82,000 in Bitcoin after falling victim to a fraudulent online investment scheme. After realizing I had been scammed, I spent considerable time researching possible ways to recover my funds. During my research, I came across CAPITAL CRYPTO RECOVER and decided to contact them after reading their reported success record and encouraging client positive reviews and testimonials. Their team guided me through the recovery process, and I was grateful to successfully recover my lost cryptocurrency. The experience was challenging, but I appreciated the assistance and support I received throughout the process. I’m sharing my experience in the hope that it may encourage other victims to carefully research their options and verify any recovery service before proceeding. I will forever be thankful to you CAPITAL CRYPTO RECOVER 📧 [email protected] 🌐 Website: recovercapital.wixsite.com/capital-crypto-rec-1 📧 [email protected] 📞 Call/WhatsApp: +1 (336) 390-6684

  • 01.09.26 17:34 Garry42

    Really crazy world. These fraudsters go at any length to steal your hard earned funds. I have been a victim of a bitcoin scam about 7 months back. A Con artist gained access to my cashapp account through a phishing scam. They stole $409,000. I was really devastated. I did everything to get back my funds by contacting the FBI but they claimed there was nothing they could do. A friend told me about a recovery expert. He helps fight against various phishing and investment scams and they were able to help trace and recover my funds even though it took over 2 days. you can reach out to him through recoverydarek@gmail. com . I can guarantee his services are still active.

  • 01.09.26 17:34 Garry42

    Really crazy world. These fraudsters go at any length to steal your hard earned funds. I have been a victim of a bitcoin scam about 7 months back. A Con artist gained access to my cashapp account through a phishing scam. They stole $409,000. I was really devastated. I did everything to get back my funds by contacting the FBI but they claimed there was nothing they could do. A friend told me about a recovery expert. He helps fight against various phishing and investment scams and they were able to help trace and recover my funds even though it took over 2 days. you can reach out to him through recoverydarek@gmail. com . I can guarantee his services are still active.

  • 02.09.26 03:43 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] WhatsApp/Text Number: +1 (336) 390-6684

  • 02.09.26 03:43 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] WhatsApp/Text Number: +1 (336) 390-6684

  • 04.09.26 21:51 Kovengray

    Recovering your lost investment funds as the case might be, is not what you can do alone, you’d require the service of a trained recovery specialist. A recovery specialist is a person or a group of people who are well equipped to work around the brokerage network. They have vast knowledge about the whole network and have the right software and private keys to follow any transaction. I was ripped off trading online to an investment broker, good thing I got every penny back through the help of Gavin ray he’s a genius Contact : Gavinray78 at gmail com or WhatsApp +1 352 322 2096 It is also important to be patient and really calm during the process.

  • 05.09.26 21:38 [email protected]

    I invested 45,000  Euro, and later aggreviated to 198,000 Euro.  I requested  to place ‎Withdrawal of my funds to be paid to my Bank account. But nothing happened I was subjected to pay more fee until I can get my funds on my account, i got in touch with Theodore ryan here on this platform who had helped a lot of people, I followed all instructions and he legally got back my withheld funds, I got threatened by the company that if I don’t pay they will get my account frozen, all thanks to Theodore ryan and I highly recommend him to anyone dealing with an unregulated broker company… contact him on his Gmail - theodoreryan318@  gmail .  com

  • 09.09.26 21:31 lisawerth897

    My Experience With Cryptocurrency — CAPITAL CRYPTO RECOVER I lost over $82,000 in Bitcoin after falling victim to a fraudulent online investment scheme. After realizing I had been scammed, I spent considerable time researching possible ways to recover my funds. During my research, I came across CAPITAL CRYPTO RECOVER and decided to contact them after reading their reported success record and encouraging client positive reviews and testimonials. Their team guided me through the recovery process, and I was grateful to successfully recover my lost cryptocurrency. The experience was challenging, but I appreciated the assistance and support I received throughout the process. I’m sharing my experience in the hope that it may encourage other victims to carefully research their options and verify any recovery service before proceeding. I will forever be thankful to you CAPITAL CRYPTO RECOVER 📧 [email protected] 🌐 Website: recovercapital.wixsite.com/capital-crypto-rec-1 📧 [email protected] 📞 Call/WhatsApp: +1 (336) 390-6684

  • 09.09.26 21:31 lisawerth897

    My Experience With Cryptocurrency — CAPITAL CRYPTO RECOVER I lost over $82,000 in Bitcoin after falling victim to a fraudulent online investment scheme. After realizing I had been scammed, I spent considerable time researching possible ways to recover my funds. During my research, I came across CAPITAL CRYPTO RECOVER and decided to contact them after reading their reported success record and encouraging client positive reviews and testimonials. Their team guided me through the recovery process, and I was grateful to successfully recover my lost cryptocurrency. The experience was challenging, but I appreciated the assistance and support I received throughout the process. I’m sharing my experience in the hope that it may encourage other victims to carefully research their options and verify any recovery service before proceeding. I will forever be thankful to you CAPITAL CRYPTO RECOVER 📧 [email protected] 🌐 Website: recovercapital.wixsite.com/capital-crypto-rec-1 📧 [email protected] 📞 Call/WhatsApp: +1 (336) 390-6684

  • 09.09.26 23:22 Fraddy Pual

    Hearing that these individuals are focusing on other people makes me very sad. I had a similar situation with them and lost a lot of money, but after learning about (Cruxcipherteam @ proton DoT me), whataqq:+168160-15021, telegram: @Cruxcipherteam I was able to get my money back. It's critical that we all be watchful and keep reporting these occurrences.

  • 11.09.26 03:23 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] WhatsApp/Text Number: +1 (336) 390-6684

  • 11.09.26 03:23 kimberlyhebertt6877

    I invested in bitcoin trading After losing $78.4 USDT) linked to a romance fraud scam worth of cryptocurrency through an online investment platform and later discovered it was a scam. After extensive research for recovery options, I contacted CAPITAL CRYPTO RECOVER based on positive client reviews and recommendations. Their professional security team guided me through the recovery process using advanced technology, and I was able to recover my lost cryptocurrency successfully. I am truly grateful for their support and assistance during such a difficult experience. I will advise you to contact CAPITAL CRYPTO RECOVER helped me recover my funds. For anyone facing similar issues, Website: https://recovercapital.wixsite.com/capital-crypto-rec-1 Email: [email protected] Telegram: @Capitalcryptorecover Contact: [email protected] WhatsApp/Text Number: +1 (336) 390-6684

  • 15.09.26 03:35 elioduncan

    I fell victim to a freelance web development contract scam that ultimately cost me CAD 4,000. It all started when I came across a job posting on Indeed Canada, a popular online job portal. The position seemed perfect: a freelance web developer role for an established company looking for someone to design and build a fully functional e-commerce website. The job promised a high payment of CAD 20,000 upon successful completion, which sounded like a great opportunity for me to gain experience and earn decent pay.The employer, who introduced himself as a project manager from a "well-known" tech company, was very persuasive and professional in our initial communication. He explained that the project involved developing a user-friendly, responsive online store for their client and that they had a strict timeline to meet. He assured me that the payment would be made promptly after completing the tasks. However, before starting the work, he told me that I would need to pay an upfront fee of CAD 4,000 to cover certain software tools and licensing fees required for the project. This was supposedly a part of their company policy for freelance contractors, ensuring access to their premium resources. The idea of working on a professional project, coupled with the promise of a substantial payout, convinced me to pay the upfront fee.As soon as I made the payment, the project manager became increasingly difficult to reach. He initially responded to my emails and provided some vague instructions on what the project would entail, but as time went on, communication slowed to a complete halt. I never received the required tools or any proper project details. My emails went unanswered, and any attempts to contact the company were met with silence. After waiting for weeks, I realized that I had been scammed.Desperate to recover my money, I turned to TechY Force Cyber Retrieval, a service that specializes in helping victims of online scams. They helped me track the payment and took legal steps to pursue the fraudsters. Through their guidance, I was able to recover the full CAD 4,000. TechY Force Cyber Retrieval worked with my bank to reverse the transaction and liaised with the authorities to trace the scammer's details.This was a hard lesson, and I now know to be highly cautious about online job offers that require upfront payments. It is crucial to research companies thoroughly and avoid any job that seems too good to be true, especially when it involves paying money upfront. WhatsApp https://wa.link/2x6ktp Mail. [email protected]

  • 15.09.26 15:45 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/WhatsApp: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

  • 15.09.26 15:45 lydiassmith567

    HIRE A HACKER YOUR STOLEN CRYPTO RECOVERY / BTC / USDT / ETH WITH THE HELP OF CAPITAL CRYPTO RECOVER. I want to share my experience publicly regarding cryptocurrency wallet recovery, I highly recommend you to contact CAPITAL CRYPTO RECOVER, a professional private investigator in the Bitcoin world. They have a certified expert security team specializing in Bitcoin Recovery Services and have helped many people worldwide recover their lost funds. My wife and I were defrauded by an online manipulator posing as an experienced crypto investment professional. We lost $9.2 Million Stolen BTC in cryptocurrency and were left feeling homeless. After spending hours searching for a reliable crypto recovery service, I discovered CAPITAL CRYPTO RECOVER online. By patiently explaining my situation to their team, I was able to recover all my funds. Remarkably, my money was returned to my wallet in less than 24 hours. I am extremely grateful to CAPITAL CRYPTO RECOVER for their excellent assistance—they truly were a godsend in my difficult situation. If you have fallen victim to a cryptocurrency scam, you can reach CAPITAL CRYPTO RECOVER through the following channels Email: [email protected] OR Call/WhatsApp: +1 (336) 390-6684 Contact: [email protected] Website: https://recovercapital.wixsite.com/capital-crypto-rec-1

Для участия в Чате вам необходим бесплатный аккаунт pro-blockchain.com Войти Регистрация
Есть вопросы?
С вами на связи 24/7
Help Icon