Pular para o conteúdo

Tarefa crb_papers.q007

crb_papersagentT2publicépoca 1, tentativa 1Execução: 20261015T170925Z-suite-crb_papers-scripted-2dbcf5

Veredito

puladaPulada: falta um recurso que a tarefa exige.

Motivo: no reference path (coverage gap)

Pergunta feita ao analista

Did Democrats who newly joined the Blue Dog Coalition experience a change in the mean ideology of their contributors after joining compared with comparable Democrats who did not join?

Aprofundamento técnico para especialistas

Acesso direto às fontes primárias, tabela formal de verificações, comparação de argumentos, trajetória completa com prompts brutos e somas SHA-256.

Valores esperados e de onde vêm

crb_papers.q007.gold

Fonte
CausalReasoningBenchmark, causal_queries.json, index 7 (revision edd0fe1c1d1c)
Tipo
benchmark_gold
Localização
causal_queries.json['7'].effect and .standard_error
Trecho
index 7: effect 0.100587, standard_error 0.0417099
Valor como publicado
0.10058679829181771
Erro-padrão como publicado
0.04170992816627088
Valor
0,1005870.10058679829181771 (se 0,04170990.04170992816627088)
Conferido por
arquivo do benchmark · Catalog value, read at the pinned revision by scripts/freeze_crb_papers.py; not reproduced here (no tool: the script is a penalised-logit doubly robust DiD with a seeded cluster-bootstrap SE).
Endereço
https://huggingface.co/datasets/syrgkanislab/CausalReasoningBenchmark/resolve/edd0fe1c1d1c5c0a4f0e3e67a50481ac679fb888/causal_queries.json
Licença
MIT

    crb_papers.q007.script

    Fonte
    CausalReasoningBenchmark reference estimation script for index 7
    Tipo
    software
    Localização
    solutions/research_papers/DiD/Clarke_2020/question_1/estimation.py
    Valor
    —
    Conferido por
    arquivo do benchmark · sha256 of the script's 4700 bytes at the pinned revision; the reference path of the item is a transcription of this script into typed transforms and tool calls (never executed here).
    Implementação
    independente da ferramenta
    sha256 da cópia lida
    f62c06ea1cfbadc3897b677c84fe1ae72033ded2148d3571f9b07c6ee5e7de86 (identifica a cópia lida, não um arquivo canônico)
    Endereço
    https://huggingface.co/datasets/syrgkanislab/CausalReasoningBenchmark/resolve/edd0fe1c1d1c5c0a4f0e3e67a50481ac679fb888/solutions/research_papers/DiD/Clarke_2020/question_1/estimation.py
    Licença
    MIT
      Especificação técnica do gabarito

      CausalReasoningBenchmark gold at the pinned revision: causal_queries.json effect and standard_error (the value the item's estimation.py prints), scored as evaluate_result.py scores estimate_within_solution_ci

      Verificações

      Cada verificação, o que esperava, o que observou e a chamada que leu
      #VerificaçãoObrigatóriaResultadoEsperadoObservadoTolerânciaFonteChamada

      Caminho de referência e caminho do agente

      A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.

      Nenhum caminho de referência registrado para esta tarefa.

      Trajetória

      Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.

      Esta tentativa não tem trajetória publicada.

      Épocas × verificações

      Tentativas

      Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.

      Downloads desta tarefa

      Pacote da tarefa (.zip)
      62,4 KB · sha256 19ab0d4a324ac1074b3d2d61a794f0bded958af84c8fe78c08b8f506ee1679ba

      O hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.

      Downloads desta tarefa
      ArquivoTamanhosha256
      native/crb_papers/crb_papers.q007.e1.a1.json2,7 KB771321190d5d0f2d719652582070e59e0fc9ac52cee308e921c8d35ec95eb172
      sources/crb_papers.q007.gold.json1,1 KBc001d4c3886eacb883348307cd88e3ede4c40183b6b97ab7118454c6cb039b2e
      sources/crb_papers.q007.script.json1,1 KB113b7187b6d00c90479b685dd871cc78b020ac0a3d9453aae1a0d090a4a49803
      specs/crb_papers.q007.json10,2 KBe3d73467e53257930db888d4c275e27bace6a12547b22e35a60310b48b98ed8a