lines = ['# comment', '[db]', ' host = localhost ', 'port=5432', '', '[feature]', 'enabled=true', 'enabled = false']
assert solution.solve(lines) == {'db': {'host': 'localhost', 'port': '5432'}, 'feature': {'enabled': 'false'}}

Prompt: 只输出 Python 代码，不要解释。实现 solve(lines: list[str]) -> dict。lines 是简化 INI：空行和以 # 开头的行忽略；[section] 开始新 section；key=value 写入当前 section；key/value 两侧空白要去掉；同一 section 内重复 key 后者覆盖前者。返回嵌套 dict。

Output:
```python
def solve(lines: list[str]) -> dict:
    result = {}
    current_section = None

    for line in lines:
        stripped = line.strip()
        if not stripped or stripped.startswith('#'):
            continue

        if stripped.startswith('[') and stripped.endswith(']'):
            section_name = stripped[1:-1].strip()
            current_section = section_name
            if section_name not in result:
                result[section_name] = {}
        else:
            if '=' in stripped:
                key, value = stripped.split('=', 1)
                key = key.strip()
                value = value.strip()
                if current_section is not None:
                    result[current_section][key] = value

    return result
```


events = ['a credit 100', 'b debit 40', 'a credit 999', 'rev b', 'c debit 10']
assert solution.solve(events) == 90

events = ['x debit 5', 'rev y', 'rev x', 'rev x', 'z credit 7']
assert solution.solve(events) == 7

Prompt: 只输出 Python 代码，不要解释。实现 solve(events: list[str]) -> int。事件格式："<id> credit <amount>" 增加余额，"<id> debit <amount>" 减少余额，"rev <id>" 撤销此前尚未撤销过的同 id 事件。重复交易 id 只保留第一次，未知撤销忽略。返回最终余额。

Output:
```python
def solve(events: list[str]) -> int:
    balance = 0
    transactions = {}  # id -> (type, amount, revoked)

    for event in events:
        parts = event.split()
        if parts[0] == "rev":
            # 撤销事件
            tid = parts[1]
            if tid in transactions and not transactions[tid][2]:
                typ, amount, _ = transactions[tid]
                if typ == "credit":
                    balance -= amount
                else:  # debit
                    balance += amount
                transactions[tid] = (typ, amount, True)
        else:
            # 交易事件
            tid, typ, amount_str = parts[0], parts[1], parts[2]
            if tid in transactions:
                continue  # 重复id，忽略
            amount = int(amount_str)
            transactions[tid] = (typ, amount, False)
            if typ == "credit":
                balance += amount
            else:  # debit
                balance -= amount

    return balance
```


deps = {'build': ['lint', 'test'], 'test': ['install'], 'lint': ['install']}
assert solution.solve(deps) == [['install'], ['lint', 'test'], ['build']]

assert solution.solve({'deploy': ['build'], 'build': []}) == [['build'], ['deploy']]

Prompt: 只输出 Python 代码，不要解释。实现 solve(deps: dict[str, list[str]]) -> list[list[str]]。deps 表示 task -> prerequisites。返回可并行执行的拓扑层，每层任务按字典序排序；如果存在环，返回空列表。所有只出现在 prerequisites 中的任务也要包含。

Output:
```python
from collections import deque

def solve(deps: dict[str, list[str]]) -> list[list[str]]:
    # 收集所有任务
    all_tasks = set(deps.keys())
    for prereqs in deps.values():
        all_tasks.update(prereqs)

    # 构建邻接表和入度
    adj = {task: [] for task in all_tasks}
    in_degree = {task: 0 for task in all_tasks}

    for task, prereqs in deps.items():
        for p in prereqs:
            adj[p].append(task)
            in_degree[task] += 1

    # 初始化队列，加入所有入度为0的节点（按字典序）
    queue = sorted([task for task in all_tasks if in_degree[task] == 0])
    result = []

    while queue:
        current_layer = queue[:]  # 当前层的所有任务
        result.append(current_layer)

        next_candidates = []
        for task in current_layer:
            for neighbor in adj[task]:
                in_degree[neighbor] -= 1
                if in_degree[neighbor] == 0:
                    next_candidates.append(neighbor)

        # 为下一层排序
        queue = sorted(next_candidates)

    # 检查是否有环（所有任务是否都被处理）
    if len(all_tasks) == sum(len(layer) for layer in result):
        return result
    else:
        return []
```


ops = ['put a 1', 'put b 2', 'get a', 'put c 3', 'get b', 'get a', 'get c']
assert solution.solve(2, ops) == [1, -1, 1, 3]

assert solution.solve(0, ['put a 1', 'get a']) == [-1]

assert solution.solve(1, ['put a 1', 'put a 2', 'get a']) == [2]

Prompt: 只输出 Python 代码，不要解释。实现 solve(capacity: int, ops: list[str]) -> list[int]，模拟 LRU cache。ops 包含 "put key value" 和 "get key"。get 返回 value，不存在返回 -1。put 已存在 key 要更新并变成最近使用。容量为 0 时所有 get 都返回 -1。

Output:
```python
from collections import OrderedDict

def solve(capacity: int, ops: list[str]) -> list[int]:
    results = []
    if capacity == 0:
        for op in ops:
            parts = op.split()
            if parts[0] == 'get':
                results.append(-1)
        return results

    cache = OrderedDict()
    for op in ops:
        parts = op.split()
        if parts[0] == 'get':
            key = int(parts[1])
            if key in cache:
                cache.move_to_end(key)
                results.append(cache[key])
            else:
                results.append(-1)
        else:
            key = int(parts[1])
            value = int(parts[2])
            if key in cache:
                cache[key] = value
                cache.move_to_end(key)
            else:
                if len(cache) >= capacity:
                    cache.popitem(last=False)
                cache[key] = value
    return results
```

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-jj4u8zsh/test_solution.py", line 4, in <module>
    assert solution.solve(2, ops) == [1, -1, 1, 3]
           ^^^^^^^^^^^^^^^^^^^^^^
  File "/private/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-jj4u8zsh/solution.py", line 23, in solve
    key = int(parts[1])
          ^^^^^^^^^^^^^
ValueError: invalid literal for int() with base 10: 'a'


Prompt: 只输出 Python 代码，不要解释。实现 solve(base: dict, patch: dict) -> dict，执行 JSON Merge Patch：patch 中值为 None 表示删除该 key；两个值都是 dict 时递归合并；其他值覆盖。不能修改输入对象。

Output:
```python
def solve(base: dict, patch: dict) -> dict:
    result = {}

    # Copy all keys from base
    for key in base:
        result[key] = base[key]

    # Apply patch
    for key, value in patch.items():
        if value is None:
            # Delete key if exists
            result.pop(key, None)
        elif isinstance(value, dict) and isinstance(result.get(key), dict):
            # Recursive merge
            result[key] = solve(result[key], value)
        else:
            # Overwrite or add
            result[key] = value

    return result
```


assert solution.solve('1h 30m 500ms') == 5400500

assert solution.solve('2d 1h 2s') == 176402000

assert solution.solve('100ms 2s 3ms') == 2103

Prompt: 只输出 Python 代码，不要解释。实现 solve(text: str) -> int，把时长字符串转换成毫秒。支持整数单位 d、h、m、s、ms，可有空格，单位可重复，顺序任意。例如 "1h 30m 500ms"。

Output:
```python
import re

def solve(text: str) -> int:
    units = {
        'd': 86400000,
        'h': 3600000,
        'm': 60000,
        's': 1000,
        'ms': 1
    }

    total_ms = 0
    pattern = re.compile(r'(\d+)\s*([a-zA-Z]+)')
    matches = pattern.findall(text)

    for value, unit in matches:
        unit = unit.lower()
        if unit in units:
            total_ms += int(value) * units[unit]

    return total_ms
```


assert solution.solve('{a:[(1)]}') is True

assert solution.solve("{'x': '(]'}") is True

assert solution.solve("['unterminated]") is False

assert solution.solve("\"paren \\\" ) still quoted\"") is True

Prompt: 只输出 Python 代码，不要解释。实现 solve(s: str) -> bool，检查括号 ()[]{} 是否配对。单引号或双引号内部的括号忽略；反斜杠会转义引号。输入字符串可以包含普通字符。

Output:
```python
def solve(s: str) -> bool:
    stack = []
    in_single_quote = False
    in_double_quote = False
    escaped = False

    i = 0
    while i < len(s):
        c = s[i]

        if escaped:
            escaped = False
            i += 1
            continue

        if c == '\\':
            escaped = True
            i += 1
            continue

        if c == "'" and not in_double_quote:
            in_single_quote = not in_single_quote
            i += 1
            continue

        if c == '"' and not in_single_quote:
            in_double_quote = not in_double_quote
            i += 1
            continue

        if not in_single_quote and not in_double_quote:
            if c in '([{':
                stack.append(c)
            elif c in ')]}':
                if not stack:
                    return False
                top = stack.pop()
                if (c == ')' and top != '(') or \
                   (c == ']' and top != '[') or \
                   (c == '}' and top != '{'):
                    return False

        i += 1

    return len(stack) == 0
```


rows = [{'user':'a','ts':1,'value':'first'}, {'user':'a','ts':1,'value':'second'}]
assert solution.solve(rows) == [{'user':'a','ts':1,'value':'second'}]

Prompt: 只输出 Python 代码，不要解释。实现 solve(rows: list[dict]) -> list[dict]。每行有 user、ts、value。对每个 user 保留 ts 最大的一行；若 ts 相同，保留在输入中更靠后的行。输出按 user 字典序排序。

Output:
```python
def solve(rows: list[dict]) -> list[dict]:
    user_max = {}
    for i, row in enumerate(rows):
        user = row["user"]
        ts = row["ts"]
        if user not in user_max or (ts, i) > (user_max[user][0], user_max[user][1]):
            user_max[user] = (ts, i, row)
    result = [user_max[user][2] for user in sorted(user_max)]
    return result
```


Prompt:
下面代码在 total 之后再次读取数据会变成空列表。请指出根因，并给出最小修复。最后单独一行写 FIX: <修复后的第一行函数定义>。

```python
def summarize(items=iter([1, 2, 3])):
    return sum(items)
```

Output:
根因：默认参数 `items=iter([1, 2, 3])` 是一个迭代器对象，它在函数定义时创建，并在第一次调用时被消耗。后续调用中，同一个迭代器已经耗尽，因此 `sum(items)` 返回 0。

最小修复：将默认参数改为可重复迭代的列表 `[1, 2, 3]`，这样每次调用都能重新迭代。

FIX: def summarize(items=[1, 2, 3])


Prompt:
下面代码期望统计每个用户的事件数，但所有用户计数会互相影响。请指出根因，并给出最小修复。最后单独一行写 FIX: <修复后的 defaultdict 初始化行>。

```python
from collections import defaultdict
shared = {'seen': []}
counts = defaultdict(lambda: shared)

def add(user, event):
    counts[user]['seen'].append(event)
    return counts[user]
```

Output:
根因：所有用户共享同一个字典 `shared`，因为 `defaultdict` 的默认工厂函数返回的是同一个对象，导致每个用户的 `'seen'` 列表实际上是同一个列表，互相影响。

最小修复：将 `defaultdict` 的默认工厂改为每次返回一个新的字典，使每个用户拥有独立的 `'seen'` 列表。

FIX: counts = defaultdict(lambda: {'seen': []})


Prompt:
下面分页代码会漏掉最后不足 page_size 的一页。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 range 行>。

```python
def pages(items, page_size):
    out = []
    for start in range(0, len(items) - page_size, page_size):
        out.append(items[start:start + page_size])
    return out
```

Output:
原代码中的 `range(0, len(items) - page_size, page_size)` 错误地使用了 `len(items) - page_size` 作为停止参数，这会导致循环跳过最后可能不足一页的元素。具体来说，当 `len(items)` 不是 `page_size` 的整数倍时，剩余元素被遗漏；即使 `len(items)` 是 `page_size` 的整数倍，最后一页也会被排除（因为停止参数不包含最后一页的起始索引）。修复方法是将停止参数改为 `len(items)`，这样 `range` 会生成所有有效的起始索引，而切片操作能自动处理末尾不足一页的情况。

FIX: range(0, len(items), page_size)


Prompt:
下面代码期望把数字字符串按数值排序，但结果是字典序。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 return 行>。

```python
def order(ids):
    return sorted(ids)
```

Output:
代码中的 `sorted(ids)` 默认按照字符串的字典序进行排序，而不是按照字符串所代表的数值大小排序。这就是 bug 所在。

最小修复方法是在 `sorted` 函数中指定 `key` 参数为 `int`，从而按数值排序。

FIX: return sorted(ids, key=int)


Prompt:
下面缓存装饰器会把不同参数的调用混在一起。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 key 赋值行>。

```python
cache = {}
def memo(fn):
    def wrapper(*args, **kwargs):
        key = fn.__name__
        if key not in cache:
            cache[key] = fn(*args, **kwargs)
        return cache[key]
    return wrapper
```

Output:
原装饰器的 bug 在于：使用 `fn.__name__` 作为缓存键，导致所有针对同一函数的调用（无论参数是否相同）都共享同一个缓存结果，从而将不同参数的调用混在一起。

最小修复方案是修改键的生成逻辑，使其包含函数标识和调用参数，确保不同参数（包括关键字参数）对应不同的缓存键。具体做法是：将键设为包含函数对象、位置参数和关键字参数（排序后转为元组）的元组。这样既区分了不同函数，又区分了不同参数。

修复后的 `key` 赋值行如下：

FIX: key = (fn, args, tuple(sorted(kwargs.items())))


Prompt:
下面代码期望浅拷贝列表后独立追加，但原列表也被修改。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 copy 行>。

```python
def append_copy(items, value):
    copied = items
    copied.append(value)
    return copied
```

Output:
代码中的 bug 在于 `copied = items` 并没有创建列表的副本，而是将变量 `copied` 指向了同一个列表对象。因此，对 `copied` 调用 `append` 方法会直接修改原列表 `items`。

最小修复是使用浅拷贝来创建 `items` 的独立副本。可以通过 `items.copy()` 方法或 `items[:]` 切片实现。

FIX: copied = items.copy()


Prompt:
下面代码期望解析 JSON 字符串，但传入已经是 dict 时会报错。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 data 赋值行>。

```python
import json

def load(payload):
    data = json.loads(payload)
    return data['id']
```

Output:
Bug: `json.loads()` 要求输入参数为字符串类型，当传入的 `payload` 已经是字典时，会引发 `TypeError` 异常。

最小修复：在解析前检查 `payload` 的类型，如果是字符串则调用 `json.loads()` 解析，否则直接使用。

FIX: data = json.loads(payload) if isinstance(payload, str) else payload


Answer: 删除 finally 中的 return None

Answer: 去掉 finally 的 return None

Answer: 不要在 finally 里 return None

Answer: remove return None

Answer: 去掉 finally 中的 return None

Answer: 删除或替换 finally 中的 return None

Answer: 去掉 finally 中的 `return None`

Answer: 删除或替换 finally 中的 `return None`

Answer: 删除 finally 块中的 `return None`

Answer: 删除 finally 块中的 return None

Answer: 删除 finally 中的 `return None`

Answer: 删除 `finally` 块中的 `return None`

Answer: 删除 `finally` 中的 `return None`

Answer: 删除 `finally: return None`

Answer: 将 `finally:` 中的 `return None` 删除

Answer: finally 中的 return None 删除

Answer: finally: 中的 return None 删除

Answer: 删除 finally 块中的 'return None'

Answer: 删除 finally 子句中的 `return None`

Answer: 删除 finally 子句中的 return None

Answer: delete the line `return None` inside the finally block

Answer: delete the line return None inside the finally block

Answer: finally 块不应包含 return 语句

Answer: finally 块不应包含 return

Answer: finally 不应包含 return

Prompt:
下面代码期望 finally 后仍保留 try 中返回值，但实际总是返回 None。请指出 bug，并给出最小修复。最后单独一行写 FIX: <要删除或替换的 finally 行说明>。

```python
def read_value():
    try:
        return 42
    finally:
        return None
```

Output:
在Python 中，当 `try` 块和 `finally` 块同时存在 `return` 语句时，`finally` 块中的 `return` 会覆盖 `try` 块中的返回值。因此，函数 `read_value()` 总是返回 `None` 而不是预期的 42。

最小修复方法是移除 `finally` 块中的 `return None` 语句，这样 `try` 块中的返回值 42 就能正常返回。如果 `finally` 块需要执行清理操作，应确保其不包含任何 `return` 语句。

FIX: 删除 `return None`


Answer: 125

Prompt: 只回答最终数字：有 A、B、C、D 四个服务。A 每分钟处理 6 个请求，B 比 A 少 2 个，C 是 B 的 2 倍，D 是 A 和 C 的平均值。四个服务 5 分钟一共处理多少请求？

Output: 125


Answer: D

Prompt: 只回答一个字母：五个任务 A、B、C、D、E 排队。A 必须在 B 前，B 必须在 C 前；D 不能在两端；E 必须紧挨在 C 后面。在所有满足条件的队列中，按字典序最小的队列第三个任务是谁？

Output: D


Answer: 0

Prompt: 只回答最终数字：一个 4 位二进制数从 1011 开始，先左移一位并只保留低 4 位，再与 0110 做异或，最后转成十进制。结果是多少？

Output: 0


Answer: 18

Prompt: 只回答最终数字：一个集合最初为 {1,2,3,4,5}。依次执行：删除所有偶数；加入 6 和 7；把每个元素乘以 2；删除大于 10 的元素。最终集合元素之和是多少？

Output: 18


Answer: 可满足

Prompt: 只回答“可满足”或“不可满足”：有三个布尔变量 x、y、z。约束为：x 或 y 为真；如果 x 为真则 z 为假；如果 y 为真则 z 为真；x 和 y 不能同时为真。是否存在赋值满足全部约束？

Output: 可满足


默认使用 默认判分 默认采用 作为默认判分

因为成本太高 因为不支持中文

Prompt:
只根据资料回答。

资料 A：DracoBench v0.2 的目标是提高区分度，优先增加 coding、debugging、RAG 和 instruction_following 题。
资料 B：DracoBench v0.2 不会默认使用 LLM-as-judge；开放中文写作题只做少量规则校验和人工抽检。
资料 C：v0.2 的 HTML 报告必须展示通过率、成本、reasoning tokens、失败样例和逐题明细。

问题：v0.2 为什么没有把 LLM-as-judge 作为默认判分？

Output: 现有提供的资料中未提及v0.2没有将LLM-as-judge作为默认判分的原因。


Beta 成本 延迟 判断

Alpha 更适合
多模态更强

Prompt:
只根据资料回答，不要自行补充。

资料：模型 Alpha 在 30 道 challenge 题中通过 24 道，成本 0.08 美元，平均延迟 9 秒。模型 Beta 通过 22 道，成本 0.02 美元，平均延迟 3 秒。资料没有给出两者在多模态任务上的表现。

问题：如果要写低成本高吞吐摘要服务，资料更支持选择哪个模型？另外，多模态表现能否判断？

Output:
### 模型选择结论
资料更支持选择模型Beta。模型Beta的成本（0.02美元）低于模型Alpha（0.08美元），且平均延迟（3秒）低于模型Alpha（9秒），平均延迟更低意味着单位时间可处理更多请求，更符合低成本、高吞吐的要求。

### 多模态表现判断结论
不能判断，因为资料未给出两者在多模态任务上的表现。


空输出 输出为空 未输出

Prompt:
只根据资料回答。

资料：一次评测中，K 模型在 smoke set 上 7/7，通过率 100%；在 hard set 上原始结果 47/50，其中 2 题后来被认定为题面歧义，单独复测通过。另有 1 题因 reasoning tokens 用尽而空输出。

问题：更公平的文字结论应该如何描述 K 模型这次 hard set 表现？

Output: K模型本次hard set评测原始通过率为94%（47/50），其中2道未通过的试题被认定为题面歧义，经单独复测后模型均通过，可证明模型具备对应解答能力；另有1道未通过的试题因reasoning tokens用尽导致空输出，该结果无法反映模型真实能力。若排除题面歧义干扰，模型在hard set上的通过率为98%（49/50）。


Prompt:
只根据资料回答，不要使用资料外知识。

资料：报告字段包括 pass_rate、avg_latency_ms、total_cost、prompt_tokens、completion_tokens、reasoning_tokens。报告不包含模型训练数据来源，也不包含供应商真实利润率。

问题：根据资料，能否从报告判断供应商利润率？

Output: 不能。根据资料，报告不包含供应商真实利润率，且所列的报告字段均不涉及与供应商利润率相关的内容，因此无法从报告判断供应商利润率。


Prompt: 只输出 JSON 对象，不要 Markdown。字段 status 必须是 "review"；字段 scores 必须是对象，包含 coding、debugging、rag 三个整数；字段 note 必须是不超过 12 个汉字的中文字符串。

Output: {"status":"review","scores":{"coding":90,"debugging":88,"rag":91},"note":"整体表现良好待提升"}


Prompt: 只输出 4 行，不要解释。第 1 行是 BEGIN，第 4 行是 END。第 2 行必须包含“模型评测”，第 3 行必须包含“HTML报告”。不能出现任何项目符号。

Output:
BEGIN
本次进行的是DracoBench对应的模型评测任务
评测完成后会生成对应的HTML报告
END


Prompt: 只输出一个中文句子，不能超过 28 个汉字。必须同时包含“难题”和“区分度”，不能包含“最强”“吊打”“遥遥领先”。

Output: 本次竞赛的难题设置很有区分度，能很好筛选不同水平的选手。


简单题 真实能力 失败样例

Prompt: 写一段不超过 120 个汉字的公众号结论，主题是“模型在简单题满分不代表真实强”。必须包含“简单题”“真实能力”“失败样例”，不能出现“吊打”。

Output: 不少小伙伴看到模型在简单题上拿满分就觉得它无所不能，其实这根本不能代表它的真实能力。遇到复杂场景、逻辑嵌套的失败样例时，模型短板就会立刻暴露。别被表面的简单题高分迷惑，理性看待模型的实际表现。


Prompt: 把下面口语句改写成专业表达，不超过 80 个汉字：这个模型看起来很猛，但一遇到复杂调试就开始掉链子。必须包含“复杂调试”和“稳定性”，不能包含“猛”“掉链子”。

Output: 该模型基础性能表现优异，但在复杂调试场景下稳定性不足，难以适配高复杂度任务的实际运行需求。


assert solution.solve([{'user':'x','type':'remove','amount':'2'}]) == {'x': -2}

Prompt: 只输出 Python 代码，不要解释。实现 solve(events: list[dict]) -> dict[str, int]。每个事件包含 user、type、amount；type 为 "add" 或 "remove"。按 user 汇总 add 减 remove 后的库存，结果中去掉库存为 0 的用户，按 key 字典序返回普通 dict。amount 可能是字符串数字。

Output:
```python
def solve(events: list[dict]) -> dict[str, int]:
    from collections import defaultdict

    inventory = defaultdict(int)

    for event in events:
        user = event["user"]
        amount = int(event["amount"])
        if event["type"] == "add":
            inventory[user] += amount
        else:  # "remove"
            inventory[user] -= amount

    # 过滤掉库存为0的用户，并按字典序排序
    result = {user: stock for user, stock in sorted(inventory.items()) if stock != 0}
    return result
```


assert solution.solve('10 - (2 + 3) + 4') == 9

Prompt: 只输出 Python 代码，不要解释。实现 solve(expr: str) -> int。expr 只包含非负整数、+、-、空格和括号，计算表达式结果。不要使用 eval。

Output:
```python
def solve(expr: str) -> int:
    stack = []
    result = 0
    number = 0
    sign = 1  # 1 for positive, -1 for negative

    for char in expr:
        if char.isdigit():
            number = number * 10 + int(char)
        elif char == '+':
            result += sign * number
            number = 0
            sign = 1
        elif char == '-':
            result += sign * number
            number = 0
            sign = -1
        elif char == '(':
            stack.append(result)
            stack.append(sign)
            result = 0
            sign = 1
            number = 0
        elif char == ')':
            result += sign * number
            number = 0
            result *= stack.pop()  # pop sign
            result += stack.pop()  # pop previous result
        elif char == ' ':
            continue

    if number != 0:
        result += sign * number

    return result
```


Prompt: 只输出 Python 代码，不要解释。实现 solve(rows: list[str]) -> list[tuple[str, int]]。每行格式为 "name score"，空白数量不定；同名保留最高分；输出按分数降序、同分按 name 升序。忽略空行。

Output:
```python
def solve(rows: list[str]) -> list[tuple[str, int]]:
    max_scores = {}
    for line in rows:
        if not line.strip():
            continue
        parts = line.split()
        name, score_str = parts[0], parts[-1]
        score = int(score_str)
        if name not in max_scores or score > max_scores[name]:
            max_scores[name] = score
    result = list(max_scores.items())
    result.sort(key=lambda x: (-x[1], x[0]))
    return result
```


assert solution.solve('a*c', 'ab') is False

assert solution.solve('file-??.txt', 'file-ab.txt') is True

Prompt: 只输出 Python 代码，不要解释。实现 solve(pattern: str, text: str) -> bool。pattern 支持 ? 匹配任意单字符，* 匹配任意长度字符串。必须匹配完整 text。

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-43ksbsn1/test_solution.py", line 3, in <module>
    assert solution.solve('a*b?d', 'axxxbc d'.replace(' ','')) is True
           ^^^^^^^^^^^^^^
AttributeError: module 'solution' has no attribute 'solve'


Prompt: 只输出 Python 代码，不要解释。实现 solve(tree: dict) -> list[str]。tree 是嵌套字典，叶子是字符串或数字。返回所有叶子的路径，路径用点连接，按字典序排序。例如 {'a': {'b': 1}} -> ['a.b=1']。

Output:
```python
def solve(tree: dict) -> list[str]:
    result = []

    def dfs(node, path):
        if isinstance(node, dict):
            for key, value in node.items():
                dfs(value, path + [key])
        else:
            result.append(f"{'.'.join(path)}={node}")

    dfs(tree, [])
    return sorted(result)
```


assert solution.solve([1,-2,0,3]) == 4
assert solution.solve([1,-2,-2,3]) == 3
assert solution.solve([-1,-1,-1]) == -1
assert solution.solve([2,1,-2,3]) == 6

Prompt: 只输出 Python 代码，不要解释。实现 solve(nums: list[int]) -> int。返回删除恰好一个元素后，剩余数组的最大连续子数组和。nums 长度至少为 2，可以全为负数。

Output:
```python
from typing import List

def solve(nums: List[int]) -> int:
    n = len(nums)
    # dp_left[i]: 以 i 结尾的最大子数组和
    dp_left = [0] * n
    dp_left[0] = nums[0]
    for i in range(1, n):
        dp_left[i] = max(nums[i], dp_left[i-1] + nums[i])

    # dp_right[i]: 以 i 开头的最大子数组和
    dp_right = [0] * n
    dp_right[-1] = nums[-1]
    for i in range(n-2, -1, -1):
        dp_right[i] = max(nums[i], nums[i] + dp_right[i+1])

    # left_best[i]: 前缀 [0..i] 的最大子数组和
    left_best = [0] * n
    left_best[0] = dp_left[0]
    for i in range(1, n):
        left_best[i] = max(left_best[i-1], dp_left[i])

    # right_best[i]: 后缀 [i..n-1] 的最大子数组和
    right_best = [0] * n
    right_best[-1] = dp_right[-1]
    for i in range(n-2, -1, -1):
        right_best[i] = max(right_best[i+1], dp_right[i])

    ans = -float('inf')
    for i in range(n):
        candidate = -float('inf')
        if i > 0:
            candidate = max(candidate, left_best[i-1])
        if i < n-1:
            candidate = max(candidate, right_best[i+1])
        if i > 0 and i < n-1:
            candidate = max(candidate, dp_left[i-1] + dp_right[i+1])
        ans = max(ans, candidate)

    return ans
```


Prompt:
下面代码期望把输入按逗号拆分并去掉空白，但会把空字段也保留下来。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 return 行>。

```python
def parse(s):
    return [part.strip() for part in s.split(',')]
```

Output:
当前代码的 bug 是：使用 `split(',')` 拆分字符串后，如果原字符串中包含连续逗号或首尾逗号，会产生空字符串字段，经过 `strip()` 后仍然为空字符串，这些空字段会被保留在结果列表中。通常期望在去掉空白后忽略空字段。

最小修复：在列表推导式中增加条件，只保留非空字符串（即 `strip()` 后长度大于 0 的字符串）。

FIX: return [part.strip() for part in s.split(',') if part.strip()]


Answer: datetime.fromisoformat

Answer: dateutil.parser

Answer: 解析 ts 后排序

Answer: parse ts

Answer: fromisoformat

Answer: int(r['ts'])

Answer: float(r['ts'])

Answer: key=lambda r: int(r['ts'])

Answer: key=lambda r: float(r['ts'])

Prompt:
下面代码期望用 UTC 时间戳排序，但字符串排序会错。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 sort 行>。

```python
rows.sort(key=lambda r: r['ts'])
```

Output:
###Bug 原因
当前代码直接将`r['ts']`的字符串值作为排序键，字符串的字典序与UTC时间的先后顺序不一致，导致排序错误。典型场景：当`ts`为Unix时间戳的数字字符串时，`"10"`的字典序小于`"9"`，但前者对应的时间更晚，会出现排序颠倒；若`ts`为非补零的日期格式、带未补零小数的时间格式，也会出现同类问题。

### 最小修复方案
若`ts`是UTC Unix时间戳的字符串（秒/毫秒级整数），只需将字符串转换为整数即可保证排序正确，改动最小；若时间戳带小数精度，可转换为浮点数。若`ts`是ISO 8601格式的UTC时间字符串，需先解析为时区感知的datetime对象再排序。

FIX: rows.sort(key=lambda r: int(r['ts']))


Prompt:
下面代码在输入包含 0 时会误判为默认值 10。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 limit 赋值行>。

```python
def query(limit=None):
    limit = limit or 10
    return list(range(limit))
```

Output:
代码中的 bug 在于使用了 `limit = limit or 10` 这种写法。当 `limit` 的值为 0 时，由于 0 在布尔上下文中被视为 `False`，因此 `limit or 10` 会返回 10，导致错误地将 0 替换为默认值 10。

最小修复方法是显式检查 `limit` 是否为 `None`，仅当 `limit` 为 `None` 时才设置默认值为 10，从而保留 0 等有效输入。

修复后的 `limit` 赋值行如下：

FIX: limit = 10 if limit is None else limit


Prompt:
下面代码期望复制嵌套配置后修改副本，但原配置也被修改。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 copied 赋值行>。

```python
def update(config):
    copied = dict(config)
    copied['db']['host'] = 'localhost'
    return copied
```

Output:
Bug: 使用 `dict(config)` 只进行了浅拷贝，嵌套的字典（如 `config['db']`）没有被复制，而是共享引用，因此修改 `copied['db']['host']` 也会影响原配置。

最小修复: 使用 `copy.deepcopy` 进行深拷贝，确保复制所有嵌套的可变对象。注意需要先导入 `copy` 模块。

FIX: copied = copy.deepcopy(config)


Prompt:
下面代码期望找到第一个匹配项，但找不到时会抛 StopIteration。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 return 行>。

```python
def find_user(users, name):
    return next(u for u in users if u['name'] == name)
```

Output:
Bug: 当 `users` 中没有匹配 `name` 的用户时，`next()` 会引发 `StopIteration` 异常，这可能导致调用者未妥善处理异常。

最小修复：为 `next()` 提供默认值 `None`，使函数在找不到匹配项时返回 `None` 而不是抛出异常。

FIX: return next((u for u in users if u['name'] == name), None)


Prompt:
下面代码期望按请求顺序记录日志，但默认参数导致多次调用共用同一个列表。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的函数定义行>。

```python
def log_request(req, logs=[]):
    logs.append(req['id'])
    return logs
```

Output:
Bug: 默认参数 `logs=[]` 在函数定义时创建了一个列表对象，该对象在所有未显式传递 `logs` 参数的调用中共享。这会导致多次调用 `log_request` 时，日志被追加到同一个列表，而不是每次调用都从新的空列表开始。

最小修复: 将默认参数改为 `None`，在函数内部检查若为 `None` 则创建新列表。

修复后的代码:
```python
def log_request(req, logs=None):
    if logs is None:
        logs = []
    logs.append(req['id'])
    return logs
```

FIX: def log_request(req, logs=None):


Answer: 3

Prompt: 只回答最终数字：一个队列从左到右是 A,B,C,D,E。依次执行：把第 2 个移到末尾；删除第 3 个；在最前面插入 X；把最后两个反转。最终队列中 C 的位置是第几位？


Answer: 120

Prompt: 只回答最终数字：某缓存命中率从 60% 提升到 75%。如果总请求数为 800，未命中请求减少了多少个？

Output: 120


Prompt:
只根据资料回答。

资料：A 模型在 ability mode 中通过 46/50，成本 0.12 美元；在 efficiency mode 中通过 34/50，成本 0.04 美元。报告建议把 ability mode 用于能力判断，把 efficiency mode 用于成本和稳定性判断。

问题：如果文章讨论“模型真实能力”，应该优先引用哪个模式？如果讨论“低预算可用性”，应该优先引用哪个模式？

Output:
1. 讨论“模型真实能力”应优先引用ability mode，报告明确建议该模式用于能力判断。
2. 讨论“低预算可用性”应优先引用efficiency mode，该模式成本仅0.04美元，远低于ability mode的0.12美元，且报告建议该模式用于成本和稳定性判断。


类型假设
假设 key 为整数
假设 key 是整数
key 为整数类型

Prompt:
只根据资料回答。

资料：一次失败分析显示，模型输出了 key = int(parts[1])，但测试数据里的 key 是字符串 a、b、c。报告认为这是“擅自补类型假设”，不是 token 截断。

问题：这次失败的根因是什么？

Output: 这次失败的根因是模型擅自补充了类型假设，将测试数据中本为字符串类型的key错误按整型处理，该问题并非token截断导致。


已经支持 折线图 柱状图

Prompt:
只根据资料回答，不要自行补充。

资料：DracoBench 的 HTML 报告目前展示 Summary、By Suite、Failure Examples 和 Case Details。Failure Examples 中包括 Prompt、Mistake Analysis、Scorer Details 和 Output。资料没有提到图表功能。

问题：报告是否已经支持图表？回答时说明依据。

Output:
报告目前不支持图表。
依据：提供的资料仅提及DracoBench的HTML报告目前展示Summary、By Suite、Failure Examples和Case Details，且明确说明资料没有提到图表功能，无相关支持图表的内容。


Prompt: 只输出 JSON 对象。字段 mode 必须是 "ability"；字段 limits 必须是对象，包含 max_tokens:4096 和 temperature:0；字段 warnings 必须是正好两个字符串组成的数组。不要 Markdown。

Output:
{
    "mode": "ability",
    "limits": {
        "max_tokens": 4096,
        "temperature": 0
    },
    "warnings": [
        "本输出仅用于模型能力评估，不构成任何专业建议",
        "请勿将本输出内容用于非法或违规场景"
    ]
}

本输出仅用于模型能力评估，不构成任何专业建议 请勿将本输出内容用于非法或违规场景


Prompt: 只输出 Markdown 表格，必须有 3 列：模式、用途、风险。必须包含 ability mode 和 efficiency mode 两行。不能添加表格外说明。

Output:
|模式 | 用途 | 风险 |
| --- | --- | --- |
| ability mode | 用于DracoBench中模型全能力维度评估，覆盖复杂任务处理、多领域适配等能力验证 | 全量能力测试用例可能导致评估耗时较长，极端边缘用例或触发模型异常输出 |
| efficiency mode | 用于DracoBench中模型运行效率评估，覆盖推理速度、资源占用等性能指标验证 | 侧重效率优化可能简化部分能力测试流程，低资源场景下模型稳定性或不足 |


Prompt: 写一段不超过 140 个汉字的公众号小结，主题是“为什么要同时展示原题、模型输出和错误解释”。必须包含“原题”“错误解释”“可复查”，不能出现“玄学”。

Output: 本期公众号解答「为什么要同时展示原题、模型输出和错误解释」的问题：三类内容同屏呈现能帮大家清晰定位模型偏差根源，所有内容支持可复查，方便对照验证，避免盲目采信结果，让AI使用更透明可控。


Answer: 15

Prompt: 只回答最终数字：变量初始为 x=2, y=5, z=1。若 x<y，交换 x 和 y；然后令 z=z+x-y；若 z 为偶数，令 y=y+z，否则令 x=x+z。最终 x+y+z 等于多少？

Output: 15


Answer: B

Prompt: 只回答一个字母：任务 A、B、C、D、E、F 排列。C 必须紧挨在 A 后面；B 必须在 D 前；D 必须在 F 前；F 必须最后；E 不能第一。在所有满足条件的排列中字典序最小的排列，第三个任务是谁？

Output: B


Answer: 可满足

Prompt: 只回答“可满足”或“不可满足”：布尔变量 x、y、z 满足：x 和 y 恰好一个为真；如果 x 为真则 z 为真；如果 y 为真则 z 为假；z 为真。是否存在赋值满足全部约束？

Output: 可满足


Answer: 20

Prompt: 只回答最终数字：列表 [2,4,6,8] 中每个数先减去它的位置编号（从 1 开始），然后删除所有奇数，再把剩余数平方，最后求和。结果是多少？

Output: 20


Answer: 12

Prompt: 只回答最终数字：一个 5 位二进制数 10110 先循环右移 1 位，再与 00111 做异或，最后转成十进制。结果是多少？

Output: 12


Answer: C

Prompt: 只回答一个字母：模型 A 通过 18 题、成本 0.06；模型 B 通过 20 题、成本 0.10；模型 C 通过 16 题、成本 0.04。按“通过题数/成本”最高选择，应该选哪个模型？

Output: C


Answer: 5

Prompt: 只回答最终数字：同一套 100 道题中，失败题数从 12 降到 7。错误率降低了多少个百分点？

Output: 5


Answer: 3

Prompt: 只回答最终数字：集合 S 初始为 {a,b,c,d}。删除字母序在 c 之前的元素；加入 e 和 b；再删除所有元音字母。最终集合有几个元素？

Output: 3


Answer: 15

Prompt: 只回答最终数字：3x3 矩阵按行是 1 2 3 / 4 5 6 / 7 8 9。顺时针旋转 90 度后，第二行元素之和是多少？

Output: 15


Answer: 3

Prompt: 只回答最终数字：依赖关系为 a 无依赖；b 依赖 a；c 依赖 a；d 依赖 b 和 c；e 依赖 b；f 依赖 d 和 e；g 依赖 a。按可并行执行的拓扑层划分，第二层有几个任务？

Output: 3


Answer: 星期五

Prompt: 只回答星期几：第 0 天是星期二。每 7 天循环一次。第 17 天是星期几？

Output: 星期五


Answer: 8

Prompt: 只回答最终数字：用 A、B、C 组成长度为 3 的字符串，要求恰好包含一个 A，并且最后一个字符不能是 C。满足条件的字符串有多少个？

Output: 8


Answer: -2

Prompt: 只回答最终数字：栈操作从空栈开始。push n 表示入栈；dup 复制栈顶；add 弹出两个数并压入它们的和；swap 交换栈顶两个数；sub 先弹出 x 再弹出 y，并压入 y-x。依次执行：push 2, push 3, dup, add, push 4, swap, sub。最终栈顶是多少？


Answer: 4

Prompt: 只回答最终数字：三个队列 Q1、Q2、Q3 初始长度分别为 2、1、0。每一轮先从所有非空队列各处理 1 个元素，然后向 Q3 加入 2 个元素。执行 3 轮后，三个队列总长度是多少？

Output: 4


Answer: 8

Prompt: 只回答最终数字：映射初始为 {a:1, b:2}。依次执行：设置 c=a+b；设置 a=c-b；删除 b；设置 d=a+c。最终所有 value 之和是多少？

Output: 8


Answer: 丙

Prompt: 只回答“甲”“乙”或“丙”：甲说“乙说的是真话”；乙说“丙说的是假话”；丙说“甲说的是假话”。如果恰好一人说真话，说真话的人是谁？

Output: 丙


Answer: A

Prompt: 只回答一个字母：综合分 = 通过率百分数 - 成本乘以 10。模型 A 通过率 92%、成本 0.20；模型 B 通过率 88%、成本 0.05；模型 C 通过率 90%、成本 0.10。综合分最高的是哪个模型？

Output: A


Answer: 463

Prompt: 只回答最终三位数：一个三位数的百位为 a、十位为 b、个位为 c。已知 a+b+c=13，a=c+1，b=2c。这个三位数是多少？

Output: 463


assert solution.solve('a,"b,c",d') == ['a', 'b,c', 'd']

assert solution.solve('"a""b",,x') == ['a"b', '', 'x']

assert solution.solve('  a ," b " ') == ['  a ', ' b  ']

Prompt: 只输出 Python 代码，不要解释。实现 solve(line: str) -> list[str]，解析一行简化 CSV：逗号分隔；字段可以用双引号包裹；引号内逗号保留；引号内两个连续双引号表示一个双引号；空字段保留；空格是普通字符，不要自动 trim。

Output:
```python
def solve(line: str) -> list[str]:
    fields = []
    current_field = []
    in_quotes = False
    i = 0
    n = len(line)

    while i < n:
        char = line[i]
        if char == '"':
            if not in_quotes:
                in_quotes = True
            else:
                if i + 1 < n and line[i + 1] == '"':
                    current_field.append('"')
                    i += 1
                else:
                    in_quotes = False
        elif char == ',' and not in_quotes:
            fields.append(''.join(current_field))
            current_field = []
        else:
            current_field.append(char)
        i += 1

    fields.append(''.join(current_field))
    return fields
```


Prompt: 只输出 Python 代码，不要解释。实现 solve(intervals: list[tuple[int, int]]) -> list[tuple[int, int]]。intervals 是整数闭区间，先按起点排序；重叠或端点相邻的区间要合并，例如 [1,2] 和 [3,4] 合并为 [1,4]。

Output:
```python
def solve(intervals: list[tuple[int, int]]) -> list[tuple[int, int]]:
    if not intervals:
        return []
    intervals.sort(key=lambda x: x[0])
    merged = []
    current_start, current_end = intervals[0]
    for start, end in intervals[1:]:
        if start <= current_end + 1:
current_end = max(current_end, end)
        else:
            merged.append((current_start, current_end))
            current_start, current_end = start, end
    merged.append((current_start, current_end))
    return merged
```

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-x315v9vv/test_solution.py", line 1, in <module>
    import solution
  File "/private/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-x315v9vv/solution.py", line 9
    current_end = max(current_end, end)
IndentationError: expected an indented block after 'if' statement on line 8


events=[('a',1),('a',2),('a',3),('a',4),('a',8)]
assert solution.solve(events, 5, 2) == [True, True, False, False, True]

Prompt: 只输出 Python 代码，不要解释。实现 solve(events: list[tuple[str, int]], window: int, limit: int) -> list[bool]，模拟按用户限流。events 按时间非降序排列。某用户在当前事件时间 ts 的窗口 (ts-window, ts] 内，已放行事件数少于 limit 才放行；被拒绝的事件不计入窗口。

Output:
```python
from collections import defaultdict

def solve(events: list[tuple[str, int]], window: int, limit: int) -> list[bool]:
    user_windows = defaultdict(list)  # 每个用户存储放行的事件时间戳
    result = []

    for user, ts in events:
        # 清理该用户窗口外的时间戳
        valid_timestamps = [t for t in user_windows[user] if t > ts - window]
        user_windows[user] = valid_timestamps

        if len(valid_timestamps) < limit:
            result.append(True)
            user_windows[user].append(ts)
        else:
            result.append(False)

    return result
```


assert solution.solve('/a//b/./c/../') == '/a/b'

assert solution.solve('/../../x') == '/x'

Prompt: 只输出 Python 代码，不要解释。实现 solve(path: str) -> str，规范化绝对 Unix 路径：处理重复斜杠、.、..；.. 在根目录时仍留在根目录；返回结果必须以 / 开头且除根目录外不能以 / 结尾。不要使用 os.path。

Output:
```python
def solve(path: str) -> str:
    parts = path.split('/')
    stack = []
    for part in parts:
        if part == '' or part == '.':
            continue
        elif part == '..':
            if stack and stack[-1] != '':
                stack.pop()
        else:
            stack.append(part)
    if not stack:
        return '/'
    return '/' + '/'.join(stack)
```


assert solution.solve(['eat','tea','tan','ate','nat','bat']) == [['eat','tea','ate'], ['tan','nat'], ['bat']]

Prompt: 只输出 Python 代码，不要解释。实现 solve(words: list[str]) -> list[list[str]]，按变位词分组。大小写敏感；组内保持输入顺序；组的顺序按该组第一个单词在输入中出现的位置。

Output:
```python
def solve(words: list[str]) -> list[list[str]]:
    groups = {}
    order = []
    for word in words:
        key = tuple(sorted(word))
        if key not in groups:
            groups[key] = []
            order.append(key)
        groups[key].append(word)
    return [groups[key] for key in order]
```


text='---\ntitle: Test\ntags: [ai, bench,  v0]\ndraft: false\n---\nbody'
assert solution.solve(text) == {'title':'Test','tags':['ai','bench','v0'],'draft':'false'}

assert solution.solve('hello\n---\na: b') == {}

assert solution.solve('---\na: 1') == {}

Prompt: 只输出 Python 代码，不要解释。实现 solve(text: str) -> dict，解析 Markdown front matter。只有第一行正好是 --- 时才解析，直到下一行 --- 结束；每行 key: value，key 和 value 两侧 trim；形如 [a, b] 的 value 返回字符串列表；其他 value 返回字符串。没有完整 front matter 返回 {}。

Output:
```python
import re

def solve(text: str) -> dict:
    lines = text.splitlines()
    if not lines or lines[0].strip() != "---":
        return {}

    result = {}
    end_found = False
    i = 1

    while i < len(lines):
        line = lines[i].strip()
        if line == "---":
            end_found = True
            break

        if ":" in line:
            key, value = line.split(":", 1)
            key = key.strip()
            value = value.strip()

            # 处理列表格式 [a, b]
            list_match = re.match(r'^\[(.*)\]$', value)
            if list_match:
                items = [item.strip() for item in list_match.group(1).split(",")]
                result[key] = items
            else:
                result[key] = value

        i += 1

    return result if end_found else {}
```


assert solution.solve(['a'], 5) == ['a']

Prompt: 只输出 Python 代码，不要解释。实现 solve(items: list[str], k: int) -> list[str]，返回出现次数最高的前 k 个元素；次数相同按第一次出现的先后排序；k 大于不同元素数量时返回全部。

Output:
```python
from collections import Counter

def solve(items: list[str], k: int) -> list[str]:
    if not items:
        return []

    # 统计频率并记录首次出现顺序
    freq = Counter(items)
    first_occurrence = {item: idx for idx, item in enumerate(items)}

    # 排序：先按频率降序，再按首次出现顺序升序
    sorted_items = sorted(
        freq.keys(),
        key=lambda x: (-freq[x], first_occurrence[x])
    )

    # 返回前k个或全部
    return sorted_items[:k]
```

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-nnsbo7j6/test_solution.py", line 4, in <module>
    assert solution.solve(['x','y','z','y','z','x'], 2) == ['x','y']
AssertionError


base={'db':{'host':'old','port':5432},'feature':{'x':1}}
overrides={'db.host':'new','feature.x':None,'api.timeout':30}
res=solution.solve(base, overrides)
assert res == {'db':{'host':'new','port':5432},'feature':{},'api':{'timeout':30}}
assert base == {'db':{'host':'old','port':5432},'feature':{'x':1}}

Prompt: 只输出 Python 代码，不要解释。实现 solve(config: dict, overrides: dict[str, object]) -> dict。overrides 的 key 是点号路径；值为 None 表示删除该路径的叶子 key；其他值写入路径，必要时创建中间 dict；不能修改输入 config。

Output:
```python
import copy

def solve(config: dict, overrides: dict[str, object]) -> dict:
    result = copy.deepcopy(config)

    for path, value in overrides.items():
        parts = path.split('.')
        current = result

        # 遍历到倒数第二个部分
        for i, part in enumerate(parts[:-1]):
            if part not in current:
                if value is None:
                    break  # 要删除但路径不存在，忽略
                current[part] = {}
            elif not isinstance(current[part], dict):
                if value is None:
                    break  # 要删除但路径不存在，忽略
                current[part] = {}
            current = current[part]
        else:  # 只有正常遍历完所有中间部分才执行
            last_part = parts[-1]
            if value is None:
                # 删除操作
                if isinstance(current, dict) and last_part in current:
                    del current[last_part]
            else:
                # 设置操作
                if not isinstance(current, dict):
                    # 如果当前不是dict，需要回溯并转换为dict
                    # 由于不能修改原config，这里需要重建路径
                    # 但根据题目，这种情况应该不会出现，因为overrides是合理的
                    # 为安全起见，我们直接跳过或抛出异常，但这里选择跳过
                    continue
                current[last_part] = value
            continue

        # 如果break跳出循环，且value不是None，需要创建完整路径
        if value is not None:
            current = result
            for part in parts[:-1]:
                if part not in current or not isinstance(current[part], dict):
                    current[part] = {}
                current = current[part]
            current[parts[-1]] = value

    return result
```


assert solution.solve('a=1&b=two+words&a=3') == {'a':['1','3'], 'b':['two words']}

assert solution.solve('empty=&flag&x=a%2Bb') == {'empty':[''], 'flag':[''], 'x':['a+b']}

Prompt: 只输出 Python 代码，不要解释。实现 solve(query: str) -> dict[str, list[str]]，解析 URL query string。& 分隔参数；没有 = 的参数值为空字符串；+ 表示空格；%XX 需要按 UTF-8 百分号解码；同名 key 保留所有值的列表。可以使用标准库。

Output:
```python
from urllib.parse import parse_qs, unquote_plus

def solve(query: str) -> dict[str, list[str]]:
    return parse_qs(query, keep_blank_values=True)
```


Prompt:
只输出 Python 代码，不要解释。实现 solve(html: str) -> bool，校验简化 HTML 标签是否配对。标签形如 、、
，标签名只含小写字母；自闭合标签不入栈；普通文本忽略。

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-bxnkcvq4/test_solution.py", line 3, in <module>
    assert solution.solve('

x

') is True
           ^^^^^^^^^^^^^^
AttributeError: module 'solution' has no attribute 'solve'


assert solution.solve(['S#','##','E.']) == -1

Prompt: 只输出 Python 代码，不要解释。实现 solve(grid: list[str]) -> int。grid 中 S 是起点，E 是终点，# 是墙，. 可走。每步上下左右移动一格，返回从 S 到 E 的最短步数；不可达返回 -1。

Output:
```python
from collections import deque

def solve(grid: list[str]) -> int:
    rows, cols = len(grid), len(grid[0])
    start = end = None
    for i in range(rows):
        for j in range(cols):
            if grid[i][j] == 'S':
                start = (i, j)
            elif grid[i][j] == 'E':
                end = (i, j)
    if not start or not end:
        return -1

    q = deque([(start[0], start[1], 0)])
    visited = [[False] * cols for _ in range(rows)]
    visited[start[0]][start[1]] = True
    dirs = [(0, 1), (0, -1), (1, 0), (-1, 0)]

    while q:
        x, y, steps = q.popleft()
        if (x, y) == end:
            return steps
        for dx, dy in dirs:
            nx, ny = x + dx, y + dy
            if 0 <= nx < rows and 0 <= ny < cols and not visited[nx][ny] and grid[nx][ny] != '#':
                visited[nx][ny] = True
                q.append((nx, ny, steps + 1))
    return -1
```


Prompt: 只输出 Python 代码，不要解释。实现 solve(nums: list[int], k: int) -> list[float]，返回每个长度为 k 的滑动窗口中位数。k 为奇数时返回中间值；k 为偶数时返回两个中间值平均数。

Output:
```python
from heapq import *
from collections import defaultdict

def solve(nums: list[int], k: int) -> list[float]:
    def median(low, high, k):
        if k % 2 == 1:
            return -low[0]
        else:
            return (-low[0] + high[0]) / 2

    low = []   # max-heap (store negative)
    high = []  # min-heap
    delay = defaultdict(int)
    res = []
    size = 0

    for i, num in enumerate(nums):
        # insert
        if not low or num <= -low[0]:
            heappush(low, -num)
        else:
            heappush(high, num)
        size += 1

        # remove out-of-window elements lazily
        if i >= k:
            out = nums[i - k]
            delay[out] += 1
            size -= 1

        # balance heaps
        while len(low) - delay.get(-low[0], 0) > size - (size // 2):
            val = -heappop(low)
            delay[val] -= 1
            if delay[val] == 0:
                del delay[val]
            heappush(high, val)
        while len(high) - delay.get(high[0], 0) > size // 2:
            val = heappop(high)
            delay[val] -= 1
            if delay[val] == 0:
                del delay[val]
            heappush(low, -val)

        # clean delayed elements from heap tops
        while low and delay.get(-low[0], 0) > 0:
            val = -heappop(low)
            delay[val] -= 1
            if delay[val] == 0:
                del delay[val]
        while high and delay.get(high[0], 0) > 0:
            val = heappop(high)
            delay[val] -= 1
            if delay[val] == 0:
                del delay[val]

        # compute median
        if size == k:
            res.append(median(low, high, k))

    return res
```

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-p_ql0eh9/test_solution.py", line 3, in <module>
    assert solution.solve([1,3,-1,-3,5,3,6,7], 3) == [1, -1, -1, 3, 5, 6]
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/private/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-p_ql0eh9/solution.py", line 38, in solve
    while len(high) - delay.get(high[0], 0) > size // 2:
                                ~~~~^^^
IndexError: list index out of range


Prompt: 只输出 Python 代码，不要解释。实现 solve(versions: list[str]) -> list[str]，按简化语义版本排序。版本为 major.minor.patch 或 major.minor.patch-label；major/minor/patch 按数字比较；同一数字版本下，带 label 的预发布版本低于正式版本；label 按字典序比较。

Output:
```python
def solve(versions: list[str]) -> list[str]:
    def parse_version(v: str):
        parts = v.split('-', 1)
        numeric = tuple(map(int, parts[0].split('.')))
        label = parts[1] if len(parts) > 1 else None
        return (numeric, 0 if label is None else 1, label)

    return sorted(versions, key=parse_version)
```

Traceback (most recent call last):
  File "/var/folders/x_/4cht1kfj1_j31gdv5w01sgmw0000gn/T/dracobench-code-snfjey05/test_solution.py", line 3, in <module>
    assert solution.solve(['1.0.0','1.0.0-alpha','1.0.1','1.0.0-beta','0.9.9']) == ['0.9.9','1.0.0-alpha','1.0.0-beta','1.0.0','1.0.1']
AssertionError


deps={'app':['lib','ui'],'ui':['core'],'lib':['core'],'core':[],'docs':[]}
assert solution.solve(deps, ['core']) == ['app','core','lib','ui']

Prompt: 只输出 Python 代码，不要解释。实现 solve(deps: dict[str, list[str]], changed: list[str]) -> list[str]。deps 表示 package -> 直接依赖。返回所有 changed 包，以及直接或间接依赖 changed 包的包，按字典序排序；只出现在依赖列表中的包也要能作为 changed 包返回。

Output:
```python
from collections import deque

def solve(deps: dict[str, list[str]], changed: list[str]) -> list[str]:
    # 构建反向依赖图：被依赖包 -> 依赖它的包
    reverse_graph = {}
    # 初始化所有包（出现在deps键或依赖列表中的包）
    all_packages = set(deps.keys())
    for dependencies in deps.values():
        all_packages.update(dependencies)

    # 初始化反向依赖图
    for pkg in all_packages:
        reverse_graph[pkg] = []

    # 填充反向依赖图
    for pkg, dependencies in deps.items():
        for dep in dependencies:
            reverse_graph[dep].append(pkg)

    # BFS遍历获取所有受影响的包
    affected = set()
    queue = deque(changed)

    while queue:
        current = queue.popleft()
        if current in affected:
            continue
        affected.add(current)
        # 将当前包的所有直接依赖者加入队列
        for dependent in reverse_graph.get(current, []):
            if dependent not in affected:
                queue.append(dependent)

    # 按字典序排序并返回
    return sorted(affected)
```


不跑 不要立刻 先不跑 不应立刻 不应该立刻 不应立即 不应该立即 不应立刻跑 不应该立刻跑 不应立即跑 不应该立即跑

Prompt:
只根据资料回答。

资料 A：早期草案说 v0.3 只新增 20 道题。
资料 B：2026-06-16 的确认方案是 v0.3-challenge100，在现有 50 题基础上新增 50 道题。
资料 C：新增题应先生成审题 HTML，确认后再跑模型，不要立即消耗 API。

问题：下一步应该新增多少题？是否应该立刻跑模型？

Output: 下一步应该新增50道题。不应该立刻跑模型，新增题应先生成审题HTML，确认后再跑模型，不要立即消耗API。


没有包含 没有提供 资料没有 未包含

Prompt:
只根据资料回答，不要自行补充。

资料：报告展示 pass_rate、avg_latency_ms、total_cost、reasoning_tokens、失败样例和逐题明细。资料没有包含用户满意度调查，也没有包含模型训练数据来源。

问题：能否根据这份报告判断用户满意度？

Output: 不能，该报告未包含用户满意度调查相关内容，无法据此判断用户满意度。


Prompt:
只根据资料回答。

资料：模型 A 通过 48/50，平均延迟 20 秒，成本 0.20 美元，没有超时失败。模型 B 通过 44/50，平均延迟 4 秒，成本 0.05 美元，没有超时失败。模型 C 通过 46/50，平均延迟 9 秒，成本 0.04 美元，但有 3 次 API 超时。

问题：如果要选低延迟且稳定的生产摘要模型，资料更支持选择哪个？

Output:
更支持选择模型B。
理由：模型B平均延迟仅4秒，是三个模型中延迟最低的，且和模型A一样没有超时失败，稳定性符合要求；模型A延迟过高，模型C存在3次API超时，稳定性不足。


不扣分 不会 不会因长度 不会因此被扣分 不会直接导致扣分 不会导致扣分 不会导致失败或扣分

Prompt:
只根据资料回答。

资料：DracoBench 当前 scoring policy 中，text_rules 的 max_chars/min_chars 只作为诊断信息记录，length_scored 为 false。缺少 required、required_any 或出现 forbidden 才会导致失败。

问题：如果答案超过 max_chars，但 required 都满足且没有 forbidden，会因为长度直接扣分吗？

Output: 不会。根据资料，text_rules的max_chars仅作为诊断信息记录，length_scored为false，仅缺少required、required_any或出现forbidden才会导致失败，因此这种情况不会因长度直接扣分。


45/50 更合适
原始结果为准

Prompt:
只根据资料回答。

资料 A：某模型原始结果为 45/50。
资料 B：修正一个同义表达评分规则后，rescored 结果为 46/50。
资料 C：总览 index 使用 rescored JSONL 作为展示结果。

问题：写文章引用总览结果时，应写 45/50 还是 46/50？

Output:
应写46/50。
因为总览index使用rescored JSONL作为展示结果，对应的rescored结果为46/50。


Prompt:
只根据资料回答。

资料：为了复现一次 benchmark，记录中包含 model、case_id、prompt_hash、parameters、scorer details、output、latency_ms 和 usage。记录不包含 chain of thought，也不包含训练数据。

问题：复现评测主要应该依赖哪些记录字段？

Output:
复现评测主要依赖的记录字段为：model、case_id、prompt_hash、parameters、scorer details。
其中model指定待复现的模型，case_id对应测试用例保证样本匹配，prompt_hash用于校验输入prompt与原评测完全一致，parameters保证模型推理参数配置与原评测一致，scorer details保证评测打分规则与原评测一致。


Prompt:
只根据资料回答。

资料 A：早期 ability mode 使用 4096 max_tokens。
资料 B：后来为了公平，ability mode 统一放宽到 16384 max_tokens。
资料 C：当前总览页只展示 v0.2-challenge50 且 ability16384 的结果。

问题：当前总览页对应的 token limit 是多少？

Output:
16384。
依据资料B可知ability mode的16384对应max_tokens为16384，结合资料C当前总览页展示的是ability16384的结果，因此对应token limit为16384。


rag-006 规则 评分规则 同义表达

Prompt:
只根据资料回答。

资料：coding-004 的失败是代码运行时 ValueError，根因是把字符串 key 强转 int。rag-006 的失败曾经是规则没有把 int 类型视作“整数”的同义表达，后来通过人工复查修正规则。

问题：哪类失败更需要人工复查评分规则？回答时也说明 coding-004 是否属于这种情况。

Output: 更需要人工复查评分规则的是规则未将int类型视作“整数”的同义表达导致的失败。coding-004的失败根因是代码运行时将字符串key强转int引发的ValueError，不属于这种情况。


Prompt:
只根据资料回答。

资料：usage 字段包含 prompt_tokens、completion_tokens、reasoning_tokens 和 cost。报告没有供应商真实利润率，也没有供应商内部成本。

问题：能否从 usage 字段判断供应商利润率？

Output:
不能。
usage字段仅包含prompt_tokens、completion_tokens、reasoning_tokens和cost，没有供应商真实利润率相关数据，也没有供应商内部成本信息，无法据此判断供应商利润率。


不应该 不展示 未展示 不显示 均不显示 不应展示

Prompt:
只根据资料回答。

资料：当前 index 页只显示最后这版 50 道题的 v0.2-challenge50 结果，并且 token limit 都统一为 ability16384。之前的版本和 ability4096 结果不显示在 index 页。

问题：index 页是否应该展示旧版本结果？当前展示范围是什么？

Output:
1. 现有资料未提及index页是否应该展示旧版本结果的相关判定内容，无法从给定资料得出对应结论。
2. 当前index页的展示范围：仅展示v0.2-challenge50版本的50道题的结果，且相关token limit统一为ability16384，不展示旧版本结果以及token limit为ability4096的结果。


Prompt:
只根据资料回答。

资料：某 coding 题中，模型响应的 finish_reason 为 length，output 为空，测试报错为 module has no attribute solve。报告认为这不是算法逻辑错误，而是输出被截断后没有形成可执行函数。

问题：这次失败应如何归因？

Output: 本次失败应归因为：模型输出因长度限制被截断（finish_reason为length），未生成完整的可执行solve函数，导致测试时模块不存在solve属性触发报错，不属于算法逻辑错误。


Prompt:
下面代码期望 funcs[0]()、funcs[1]()、funcs[2]() 分别返回 0、1、2，但实际都会返回 2。请指出根因，并给出最小修复。最后单独一行写 FIX: <修复后的 append 行>。

```python
funcs = []
for i in range(3):
    funcs.append(lambda: i)
```

Output:
根因：lambda 函数捕获的是变量 `i` 的引用而非其值。循环结束后 `i` 的值为 2，所有 lambda 在调用时都使用该值，因此返回相同的结果。

最小修复：在定义 lambda 时为参数设置默认值，以捕获当前循环值。

FIX: funcs.append(lambda i=i: i)


Prompt:
下面 context manager 期望异常继续向外抛出，但实际异常被吞掉。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 return 行>。

```python
class Span:
    def __enter__(self):
        return self
    def __exit__(self, exc_type, exc, tb):
        return True
```

Output:
Bug: `__exit__` 方法返回 `True`，这表示抑制异常，导致异常被吞掉，无法向外抛出。

最小修复：将 `return True` 改为 `return False`，使异常能够正常传播。

FIX: return False


Prompt:
下面代码期望每个 Bag 实例都有独立列表，但不同实例会共享 items。请指出 bug，并给出最小修复。最后单独一行写 FIX: <新增到 __init__ 中的赋值行>。

```python
class Bag:
    items = []
    def add(self, x):
        self.items.append(x)
```

Output:
Bug: 类属性 `items` 被所有实例共享，导致不同实例操作同一个列表。

最小修复：在类中添加 `__init__` 方法，并在其中为实例初始化 `self.items = []`，同时移除类属性 `items = []`（或保留但不会被实例使用）。

修复后代码：
```python
class Bag:
    def __init__(self):
        self.items = []
    def add(self, x):
        self.items.append(x)
```

FIX: self.items = []


Prompt:
下面代码期望每次不传 ts 时使用当前时间，但默认时间只会在函数定义时计算一次。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的函数定义行>。

```python
from datetime import datetime

def mark(ts=datetime.utcnow()):
    return ts.isoformat()
```

Output:
Bug: 默认参数 `ts=datetime.utcnow()` 在函数定义时计算一次，导致所有未传递 `ts` 的调用都使用相同的时间戳（函数定义时的时间），而不是每次调用时的当前时间。

最小修复: 将默认参数改为 `None`，在函数内部检查 `ts` 是否为 `None`，如果是则设置为当前时间。

FIX: def mark(ts=None):


Prompt:
下面代码期望返回小写字符串，但实际返回的是方法对象。请指出 bug，并给出最小修复。最后单独一行写 FIX: <修复后的 return 行>。

```python
def normalize(s):
    return s.strip().lower
```

Output:
### bug说明
`lower`是字符串类型的方法，代码中未对其加调用括号，仅返回了`lower`方法的引用对象，而非调用该方法后得到的小写字符串，因此实际返回的是方法对象而非预期结果。

### 最小修复
给`lower`加上方法调用括号即可。

FIX: return s.strip().lower()


Prompt: 只输出 JSON 对象，不要 Markdown。字段 version 必须是 "v0.3"；字段 ready 必须是 true；字段 cases 必须是正好两个对象组成的数组。cases 中每个对象只能包含 id、weight、active 三个字段；id 是字符串且匹配 case-1 或 case-2；weight 是整数；active 是布尔值。

Output: {"version":"v0.3","ready":true,"cases":[{"id":"case-1","weight":10,"active":true},{"id":"case-2","weight":20,"active":false}]}


推理题 边界条件 人工复查

Prompt: 写一段不超过 160 个汉字的公众号小结，主题是“为什么 v0.3 要扩到 100 题”。必须包含“推理题”“边界条件”“人工复查”，不能出现“排行榜”。

Output: 各位小伙伴好~本次v0.3版本题库扩容至100题，核心是为了更充分覆盖各类推理题场景，精准捕捉模型在复杂边界条件下的表现差异，避免小样本测试的偶然性。所有新增题目均经过多轮人工复查，确保题型合理、难度梯度清晰，能更真实反映模型能力边界，为后续迭代提供更可靠的参考依据。