# Meta-World

  The commands below run the simulator locally. To keep its dependencies away from your policy's, serve it instead with `lerobot-env-server --config_path=docker/sim/configs/metaworld.yaml --sim.task= --docker=true`, where `` is the command's `--env.task`, and add `--env.server.endpoint=tcp/127.0.0.1:7448` to the command. A server runs the task it was started with (see [Simulation: local or served](./simulation)).

Meta-World — это открытый бенчмарк симуляции для **многозадачного и мета-обучения с подкреплением** в задачах непрерывного управления роботизированным манипулятором. Он объединяет 50 разнообразных задач манипулирования с использованием повседневных объектов и общего настольного манипулятора Sawyer, предоставляя стандартизированную среду для проверки того, могут ли алгоритмы обучаться множеству различных задач и быстро обобщать знания на новые.

- Статья: [Meta-World: критерии и оценка для многозадачного и мета-обучения с подкреплением](https://arxiv.org/abs/1910.10897)
- GitHub: [Farama-Foundation/Metaworld](https://github.com/Farama-Foundation/Metaworld)
- Сайт проекта: [metaworld.farama.org](https://metaworld.farama.org)

![MetaWorld MT10 demo](https://meta-world.github.io/figures/ml45.gif)

## Доступные задачи

Meta-World предоставляет 50 задач, сгруппированных по уровню сложности. В LeRobot можно выполнять оценку на отдельных задачах, группах сложности или на полном наборе MT50:

| Группа      | Имя CLI             | Задачи | Описание                                            |
| ---------- | -------------------- | ----- | ------------------------------------------------------ |
| Легко       | `easy`               | 28    | Задачи с простой динамикой и одношаговыми целями       |
| Средний     | `medium`             | 11    | Задачи, требующие многошагового рассуждения                   |
| Сложный       | `hard`               | 6     | Задачи со сложными контактами и точным манипулированием   |
| Очень сложно  | `very_hard`          | 5     | Самые сложные задачи в наборе                |
| MT50 (все) | Список, разделенный запятыми | 50    | Все 50 задач — наиболее сложная многозадачная конфигурация |

Вы также можете передавать имена отдельных задач напрямую (например, `assembly-v3`, `dial-turn-v3`).

Мы предоставляем датасет, готовый к работе с LeRobot, для Meta-World MT50 на HF Hub: [lerobot/metaworld_mt50](https://huggingface.co/datasets/lerobot/metaworld_mt50). Этот датасет отформатирован для оценки MT50, которая использует все 50 задач с фиксированными позициями объектов/целей и векторами задач в формате one-hot для обеспечения согласованности.

## Установка

После выполнения инструкций по установке LeRobot:

```bash
pip install -e ".[metaworld]"
```

Если при запуске сред Meta-World вы получаете ошибку `AssertionError: ['human', 'rgb_array', 'depth_array']`, это означает несовместимость между Meta-World и вашей версией Gymnasium. Переустановите версию Gymnasium, поддерживаемую LeRobot (Meta-World `3.0.0` с ней работает):

```bash
pip install "gymnasium>=1.1.1,<2.0.0"
```

## Оценка

### Локальная оценка по умолчанию

Оцените на сплите средней сложности (хороший баланс между покрытием и вычислительными ресурсами):

```bash
lerobot-eval \
  --policy.path="your-policy-id" \
  --env.type=metaworld \
  --env.task=medium \
  --eval.batch_size=1 \
  --eval.n_episodes=10
```

### Оценка по одной задаче

Оценка на конкретной задаче:

```bash
lerobot-eval \
  --policy.path="your-policy-id" \
  --env.type=metaworld \
  --env.task=assembly-v3 \
  --eval.batch_size=1 \
  --eval.n_episodes=10
```

### Оценка по нескольким задачам

Оценка по нескольким задачам или группам сложности:

```bash
lerobot-eval \
  --policy.path="your-policy-id" \
  --env.type=metaworld \
  --env.task=assembly-v3,dial-turn-v3,handle-press-side-v3 \
  --eval.batch_size=1 \
  --eval.n_episodes=10
```

- `--env.task` принимает явные списки задач (разделённые запятыми) или группы сложности (например, `easy`, `medium`, `hard`, `very_hard`).
- `--eval.batch_size` управляет количеством сред, работающих параллельно.
- `--eval.n_episodes` задаёт количество эпизодов, выполняемых для каждой задачи.

### Входы и выходы политики

**Наблюдения:**

- `observation.image` — изображение с одной камеры (`corner2`), 480x480 HWC uint8
- `observation.state` — 4-мерное проприоцептивное состояние (позиция конечного эффектора + захват)

**Действия:**

- Непрерывное управление в `Box(-1, 1, shape=(4,))` — 3D-концевой исполнительный механизм + 1D-захват

### Рекомендуемые эпизоды оценки

Для воспроизводимого бенчмаркинга используйте **10 эпизодов на задачу**. Для полного набора MT50 это составляет 500 эпизодов в общей сложности. Если вас интересует обобщающая способность, выполняйте тестирование на полном MT50 — он намеренно сложен и лучше выявляет сильные и слабые стороны, чем несколько узких задач.

## Обучение

### Пример команды обучения

Обучение политики SmolVLA на подмножестве задач Meta-World:

```bash
lerobot-train \
  --policy.type=smolvla \
  --policy.repo_id=${HF_USER}/metaworld-test \
  --policy.load_vlm_weights=true \
  --dataset.repo_id=lerobot/metaworld_mt50 \
  --env.type=metaworld \
  --env.task=assembly-v3,dial-turn-v3,handle-press-side-v3 \
  --output_dir=./outputs/ \
  --steps=100000 \
  --batch_size=4 \
  --eval.batch_size=1 \
  --eval.n_episodes=1 \
  --env_eval_freq=1000
```

## Практические советы

- Используйте одногорячее кодирование задачи для многозадачного обучения (конвенции MT10/MT50), чтобы политики имели явный контекст задачи.
- При написании кода для постобработки или логирования изучайте описания задач датасета и ключи `info["is_success"]`, чтобы ваши метрики успеха соответствовали бенчмарку.
- Настройте `batch_size`, `steps` и `env_eval_freq` в соответствии с вашим вычислительным бюджетом.

