Datasets:
Unnamed: 0
int64 | context
string | world_knowledge
string | sanity_check
string | sanity_check_key
string | sanity_check_distractor
string | sanity_check_t
string | sanity_check_f
string | utterance
string | adj
string | predicted
int64 | true_how
string | code
string | ling_con
string | adj_freq
float64 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
0
|
张涛在比较三座城市的气温。他认为25度算是热的城市。北京30度。上海28度。广州35度。
|
presence
|
哪个城市最热?
|
广州
|
上海
|
北京比上海热。
|
上海比北京热。
|
广州热。
|
热
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.233609
|
1
|
陈芳在比较三本书的页数。她觉得200页算是厚的书。A书150页。B书300页。C书180页。
|
absence
|
哪本书最厚?
|
B书
|
C书
|
C书比A书厚。
|
A书比C书厚。
|
B书厚。
|
厚
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.055501
|
2
|
吴磊在比较三款手机的电池容量。他觉得4000毫安算是大容量的手机。X型号3800毫安。Y型号4500毫安。Z型号5000毫安。
|
presence
|
哪款手机电池容量最大?
|
Z型号
|
Y型号
|
Y型号比X型号大。
|
X型号比Y型号大。
|
Z型号大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
3
|
陈芳在比较三座山峰的海拔。她觉得3000米算是高的山峰。泰山1545米。华山2154米。贡嘎山7556米。
|
presence
|
哪座山峰最高?
|
贡嘎山
|
华山
|
华山比泰山高。
|
泰山比华山高。
|
贡嘎山高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
4
|
刘强在比较三款手机的续航时间。他认为12小时算是持久的机型。X型号8小时。Y型号18小时。Z型号15小时。
|
absence
|
哪款手机续航时间最长?
|
Y型号
|
Z型号
|
Z型号比X型号久。
|
X型号比Z型号久。
|
Y型号久。
|
久
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.256384
|
5
|
周婷在比较三家餐厅的评分。她觉得4分算是优质的餐厅。A店3.8分。B店4.5分。C店4.2分。
|
absence
|
哪家餐厅评分最高?
|
B店
|
C店
|
C店比A店优。
|
A店比C店优。
|
B店优。
|
优
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.501325
|
6
|
刘芳在比较三座城市的气温。她认为25度算是热的天气。甲市30度。乙市18度。丙市22度。
|
absence
|
哪个城市最热?
|
甲市
|
丙市
|
丙市比乙市热。
|
乙市比丙市热。
|
甲市热。
|
热
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.233609
|
7
|
陈涛在比较三只狗的年龄。他认为5岁算是老的狗。小黑3岁。小白7岁。小黄6岁。
|
absence
|
哪只狗年龄最大?
|
小白
|
小黄
|
小黄比小黑老。
|
小黑比小黄老。
|
小白老。
|
老
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.15255
|
8
|
张丽在比较三本书的页数。她觉得300页算是薄的书。A书200页。B书450页。C书350页。
|
absence
|
哪本书页数最多?
|
B书
|
C书
|
C书比B书薄。
|
B书比C书薄。
|
A书薄。
|
薄
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.914089
|
9
|
张涛在比较三个学生的年龄。他认为10岁算是小的学生。王林8岁。陈芳12岁。刘洋9岁。
|
absence
|
哪个学生年龄最小?
|
王林
|
刘洋
|
刘洋比陈芳小。
|
陈芳比刘洋小。
|
王林小。
|
小
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.161358
|
10
|
周敏在比较三个城市的温度。她觉得28度算是凉快的天气。广州35度。昆明20度。哈尔滨15度。
|
presence
|
哪个城市温度最低?
|
哈尔滨
|
昆明
|
广州比哈尔滨凉快。
|
哈尔滨比广州凉快。
|
哈尔滨凉快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
11
|
吴婷在比较三本书的页数。她认为200页算是厚的书。小说300页。诗集150页。散文250页。
|
absence
|
哪本书页数最多?
|
小说
|
散文
|
散文比诗集厚。
|
诗集比散文厚。
|
小说厚。
|
厚
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.055501
|
12
|
张华在比较三个城市的温度。他认为25度算是凉爽的城市。广州30度。北京20度。上海28度。
|
presence
|
哪个城市最凉爽?
|
北京
|
上海
|
上海比广州凉爽。
|
广州比上海凉爽。
|
北京凉爽。
|
凉爽
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -12.295997
|
13
|
陈磊在比较三本书的页数。他觉得300页算是厚的书。A书250页。B书400页。C书350页。
|
absence
|
哪本书最厚?
|
B书
|
C书
|
C书比A书厚。
|
A书比C书厚。
|
B书厚。
|
厚
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.055501
|
14
|
刘芳在比较三个学生的年龄。她觉得15岁算是大的学生。张涛18岁。李娜14岁。王强16岁。
|
absence
|
哪个学生年龄最大?
|
张涛
|
王强
|
王强比李娜大。
|
李娜比王强大。
|
张涛大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
15
|
杨阳在比较三个手机的电量。他认为80%算是高的电量。华为50%。苹果90%。小米75%。
|
presence
|
哪个手机电量最高?
|
苹果
|
小米
|
小米比华为高。
|
华为比小米高。
|
苹果高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
16
|
陈静在比较三个房间的面积。她觉得20平米算是大的房间。A房15平米。B房25平米。C房30平米。
|
absence
|
哪个房间面积最大?
|
C房
|
B房
|
B房比A房大。
|
A房比B房大。
|
C房大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
17
|
黄伟在比较三个河流的长度。他认为5000公里算是长的河流。长江6300公里。黄河5464公里。淮河1000公里。
|
presence
|
哪条河流最长?
|
长江
|
黄河
|
黄河比淮河长。
|
淮河比黄河长。
|
长江长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
18
|
周敏在比较三个电影的时长。她觉得2小时算是长的电影。X片1.5小时。Y片2.5小时。Z片3小时。
|
absence
|
哪个电影时长最长?
|
Z片
|
Y片
|
Y片比X片长。
|
X片比Y片长。
|
Z片长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
19
|
吴磊在比较三个动物的速度。他认为每小时50公里算是快的动物。猎豹120公里。乌龟3公里。兔子60公里。
|
presence
|
哪个动物速度最快?
|
猎豹
|
兔子
|
兔子比乌龟快。
|
乌龟比兔子快。
|
猎豹快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
20
|
小张在比较三个城市的温度。他认为25度算是热的城市。南京30度。北京20度。广州35度。
|
presence
|
哪个城市最热?
|
广州
|
南京
|
南京比北京热。
|
北京比南京热。
|
广州热。
|
热
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.233609
|
21
|
陈芳在比较三个手机的电池容量。她觉得4000毫安算是大的电池。A手机3500毫安。B手机4500毫安。C手机5000毫安。
|
absence
|
哪个手机电池容量最大?
|
C手机
|
B手机
|
B手机比A手机大。
|
A手机比B手机大。
|
C手机大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
22
|
老刘在比较三个房间的面积。他认为20平米算是小的房间。客厅15平米。卧室25平米。厨房12平米。
|
absence
|
哪个房间面积最小?
|
厨房
|
客厅
|
客厅比卧室小。
|
卧室比客厅小。
|
厨房小。
|
小
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.161358
|
23
|
周涛在比较三个书包的重量。他觉得1公斤算是重的书包。蓝书包0.8公斤。红书包1.5公斤。黑书包1.2公斤。
|
absence
|
哪个书包最重?
|
红书包
|
黑书包
|
黑书包比蓝书包重。
|
蓝书包比黑书包重。
|
红书包重。
|
重
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.955698
|
24
|
吴敏在比较三个水杯的容量。她觉得500毫升算是大的杯子。玻璃杯600毫升。塑料杯300毫升。陶瓷杯450毫升。
|
absence
|
哪个杯子容量最大?
|
玻璃杯
|
陶瓷杯
|
陶瓷杯比塑料杯大。
|
塑料杯比陶瓷杯大。
|
玻璃杯大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
25
|
赵强在比较三个学生的年龄。他认为12岁算是小的学生。小林14岁。小美10岁。小刚13岁。
|
absence
|
哪个学生年龄最小?
|
小美
|
小刚
|
小刚比小林小。
|
小林比小刚小。
|
小美小。
|
小
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.161358
|
26
|
孙丽在比较三个水果的甜度。她觉得8度算是甜的水果。苹果6度。香蕉9度。橙子7度。
|
presence
|
哪个水果最甜?
|
香蕉
|
橙子
|
橙子比苹果甜。
|
苹果比橙子甜。
|
香蕉甜。
|
甜
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.936312
|
27
|
钱浩在比较三个河流的长度。他认为100公里算是短的河流。长江200公里。黄河80公里。珠江150公里。
|
presence
|
哪条河流最短?
|
黄河
|
珠江
|
珠江比长江短。
|
长江比珠江短。
|
黄河短。
|
短
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.533304
|
28
|
周婷在比较三个电影的评分。她觉得7分算是低的电影。A电影8.5分。B电影6.3分。C电影9.1分。
|
absence
|
哪个电影评分最高?
|
C电影
|
A电影
|
A电影比C电影低。
|
C电影比A电影低。
|
B电影低。
|
低
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.727914
|
29
|
郑伟在比较三个灯泡的亮度。他认为100流明算是暗的灯泡。白灯120流明。黄灯90流明。蓝灯150流明。
|
absence
|
哪个灯泡最亮?
|
蓝灯
|
白灯
|
白灯比蓝灯暗。
|
蓝灯比白灯暗。
|
黄灯暗。
|
暗
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.684374
|
30
|
老陈在比较三个工厂的产量。他觉得500吨算是低的月产量。甲厂600吨。乙厂450吨。丙厂800吨。
|
absence
|
哪个工厂产量最高?
|
丙厂
|
甲厂
|
甲厂比丙厂低。
|
丙厂比甲厂低。
|
乙厂月产量低。
|
低
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.727914
|
31
|
小何在比较三个软件的下载量。她觉得10万次算是少的下载量。X软件15万次。Y软件8万次。Z软件12万次。
|
absence
|
哪个软件下载量最多?
|
X软件
|
Z软件
|
Z软件比X软件少。
|
X软件比Z软件少。
|
Y软件下载量少。
|
少
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.703523
|
32
|
张姨在比较三个蛋糕的糖分。她觉得50克算是低糖的蛋糕。巧克力蛋糕70克。草莓蛋糕45克。奶油蛋糕60克。
|
presence
|
哪个蛋糕糖分最高?
|
巧克力蛋糕
|
奶油蛋糕
|
奶油蛋糕比巧克力蛋糕低。
|
巧克力蛋糕比奶油蛋糕低。
|
草莓蛋糕低。
|
低
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.727914
|
33
|
王叔在比较三个鱼塘的深度。他认为2米算是浅的鱼塘。一号塘1.8米。二号塘3米。三号塘2.5米。
|
absence
|
哪个鱼塘最浅?
|
一号塘
|
三号塘
|
三号塘比二号塘浅。
|
二号塘比三号塘浅。
|
一号塘浅。
|
浅
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.212821
|
34
|
小林在比较三个快递的速度。她觉得3天算是慢的快递。顺丰2天。圆通4天。中通3天。
|
presence
|
哪个快递最慢?
|
圆通
|
中通
|
中通比顺丰慢。
|
顺丰比中通慢。
|
圆通慢。
|
慢
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.061312
|
35
|
张涛在比较三只狗的年龄。他认为3岁算是年轻的狗。小黑5岁。小白2岁。小花4岁。
|
absence
|
哪只狗年龄最小?
|
小白
|
小花
|
小花比小黑年轻。
|
小黑比小花年轻。
|
小白年轻。
|
年轻
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.053337
|
36
|
陈芳在比较三本书的厚度。她觉得200页算是薄的书。A书150页。B书300页。C书250页。
|
absence
|
哪本书最厚?
|
B书
|
C书
|
C书比B书薄。
|
B书比C书薄。
|
A书薄。
|
薄
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.914089
|
37
|
刘强在比较三座山的海拔。他认为1000米算是高的山。泰山1545米。黄山1864米。庐山1474米。
|
presence
|
哪座山最高?
|
黄山
|
庐山
|
泰山比庐山高。
|
庐山比泰山高。
|
黄山高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
38
|
周敏在比较三杯水的温度。她觉得30度算是烫的水。甲杯45度。乙杯25度。丙杯50度。
|
absence
|
哪杯水温度最高?
|
丙杯
|
甲杯
|
甲杯比乙杯烫。
|
乙杯比甲杯烫。
|
丙杯烫。
|
烫
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.558969
|
39
|
吴浩在比较三支笔的长度。他认为12厘米算是长的笔。蓝笔15厘米。红笔10厘米。黑笔18厘米。
|
absence
|
哪支笔最长?
|
黑笔
|
蓝笔
|
蓝笔比红笔长。
|
红笔比蓝笔长。
|
黑笔长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
40
|
林琳在比较三间房的面积。她觉得20平米算是大的房间。101号25平米。102号18平米。103号30平米。
|
absence
|
哪个房间面积最大?
|
103号
|
102号
|
101号比102号大。
|
102号比101号大。
|
103号大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
41
|
赵刚在比较三条鱼的重量。他认为1公斤算是重的鱼。青鱼0.8公斤。鲤鱼1.5公斤。草鱼1.2公斤。
|
absence
|
哪条鱼最重?
|
鲤鱼
|
草鱼
|
草鱼比青鱼重。
|
青鱼比草鱼重。
|
鲤鱼重。
|
重
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.955698
|
42
|
孙丽在比较三双鞋的价格。她觉得500元算是贵的鞋。运动鞋800元。皮鞋450元。凉鞋600元。
|
absence
|
哪双鞋最贵?
|
运动鞋
|
凉鞋
|
凉鞋比皮鞋贵。
|
皮鞋比凉鞋贵。
|
运动鞋贵。
|
贵
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.038162
|
43
|
王芳在比较三棵树的树龄。她觉得10年算是老的树。松树25年。杨树8年。柳树15年。
|
presence
|
哪棵树树龄最大?
|
松树
|
柳树
|
柳树比杨树老。
|
杨树比柳树老。
|
松树老。
|
老
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.15255
|
44
|
陈明在比较三台手机的电量。他认为80%算是高电量。A手机95%。B手机75%。C手机60%。
|
absence
|
哪台手机电量最高?
|
A手机
|
B手机
|
B手机比C手机高。
|
C手机比B手机高。
|
A手机电量高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
45
|
李娜在比较三件衣服的尺寸。她觉得M码算是大的衣服。外套L码。T恤S码。裙子XL码。
|
absence
|
哪件衣服尺码最大?
|
裙子
|
外套
|
外套比T恤大。
|
T恤比外套大。
|
裙子大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
46
|
周杰在比较三场电影的时长。他认为90分钟算是长的电影。动作片120分钟。爱情片85分钟。科幻片150分钟。
|
absence
|
哪场电影时长最长?
|
科幻片
|
动作片
|
动作片比爱情片长。
|
爱情片比动作片长。
|
科幻片长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
47
|
吴婷在比较三碗面的分量。她觉得300克算是多的面。牛肉面350克。素面280克。海鲜面400克。
|
absence
|
哪碗面分量最多?
|
海鲜面
|
牛肉面
|
牛肉面比素面多。
|
素面比牛肉面多。
|
海鲜面多。
|
多
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.425329
|
48
|
郑伟在比较三把椅子的承重。他认为100公斤算是强的承重。木椅120公斤。塑料椅90公斤。铁椅150公斤。
|
absence
|
哪把椅子承重最大?
|
铁椅
|
木椅
|
木椅比塑料椅强。
|
塑料椅比木椅强。
|
铁椅强。
|
强
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.772085
|
49
|
徐静在比较三瓶饮料的甜度。她觉得5%糖分算是高糖的。橙汁7%。绿茶3%。可乐10%。
|
absence
|
哪瓶饮料最甜?
|
可乐
|
橙汁
|
橙汁比绿茶甜。
|
绿茶比橙汁甜。
|
可乐甜。
|
甜
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.936312
|
50
|
黄磊在比较三台电脑的速度。他认为4秒开机算是快的电脑。A电脑3秒。B电脑5秒。C电脑6秒。
|
absence
|
哪台电脑开机速度最快?
|
A电脑
|
B电脑
|
B电脑比C电脑快。
|
C电脑比B电脑快。
|
A电脑快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
51
|
何娟在比较三盆植物的高度。她觉得50厘米算是高的植物。绿萝60厘米。多肉30厘米。龟背竹80厘米。
|
absence
|
哪盆植物最高?
|
龟背竹
|
绿萝
|
绿萝比多肉高。
|
多肉比绿萝高。
|
龟背竹高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
52
|
马超在比较三支球队的积分。他认为20分算是多的积分。甲队25分。乙队18分。丙队30分。
|
absence
|
哪支球队积分最高?
|
丙队
|
甲队
|
甲队比乙队多。
|
乙队比甲队多。
|
丙队多。
|
多
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.425329
|
53
|
朱琳在比较三款相机的像素。她觉得2000万算是高的像素。X相机2400万。Y相机1800万。Z相机3000万。
|
absence
|
哪款相机像素最高?
|
Z相机
|
X相机
|
X相机比Y相机高。
|
Y相机比X相机高。
|
Z相机高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
54
|
郭强在比较三条河流的长度。他认为500公里算是长的河。长江6300公里。黄河5464公里。淮河1000公里。
|
presence
|
哪条河流最长?
|
长江
|
黄河
|
黄河比淮河长。
|
淮河比黄河长。
|
长江长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
55
|
唐敏在比较三款口红的颜色深度。她觉得3度算是深的颜色。1号色2度。2号色4度。3号色1度。
|
absence
|
哪款口红颜色最深?
|
2号色
|
1号色
|
1号比3号深。
|
3号比1号深。
|
2号色深。
|
深
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.510095
|
56
|
宋杰在比较三辆自行车的速度。他认为20km/h算是快的车。A车25km/h。B车18km/h。C车30km/h。
|
absence
|
哪辆自行车速度最快?
|
C车
|
A车
|
A车比B车快。
|
B车比A车快。
|
C车快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
57
|
韩雪在比较三间图书馆的藏书量。她觉得10万册算是多的。东馆15万册。南馆8万册。西馆20万册。
|
absence
|
哪间图书馆藏书量最多?
|
西馆
|
东馆
|
东馆比南馆多。
|
南馆比东馆多。
|
西馆多。
|
多
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.425329
|
58
|
董浩在比较三款灯泡的亮度。他认为100瓦算是亮的灯泡。白灯120瓦。黄灯90瓦。LED灯150瓦。
|
absence
|
哪个灯泡最亮?
|
LED灯
|
白灯
|
白灯比黄灯亮。
|
黄灯比白灯亮。
|
LED灯亮。
|
亮
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.865822
|
59
|
许晴在比较三块手表的精度。她觉得每日±5秒算是高精度。A表±3秒。B表±6秒。C表±2秒。
|
absence
|
哪块手表精度最高?
|
C表
|
A表
|
B表比A表准。
|
A表比B表准。
|
C表准。
|
准
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.946395
|
60
|
吕伟在比较三把伞的直径。他认为90厘米算是大的伞。黑伞100厘米。蓝伞85厘米。红伞110厘米。
|
absence
|
哪把伞最大?
|
红伞
|
黑伞
|
黑伞比蓝伞大。
|
蓝伞比黑伞大。
|
红伞大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
61
|
丁兰在比较三款洗发水的容量。她觉得400毫升算是多的。柔顺款350毫升。去屑款450毫升。修复款500毫升。
|
absence
|
哪款洗发水容量最多?
|
修复款
|
去屑款
|
去屑款比柔顺款多。
|
柔顺款比去屑款多。
|
修复款多。
|
多
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.425329
|
62
|
陆峰在比较三栋楼的层数。他认为15层算是高的楼。A栋20层。B栋12层。C栋25层。
|
absence
|
哪栋楼层数最多?
|
C栋
|
A栋
|
A栋比B栋高。
|
B栋比A栋高。
|
C栋高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
63
|
姜华在比较三台空调的耗电量。她觉得1度/小时算是省电的。节能型0.8度。标准型1.2度。强力型1.5度。
|
absence
|
哪台空调最省电?
|
节能型
|
标准型
|
标准型比强力型省电。
|
强力型比标准型省电。
|
节能型省电。
|
电
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.11503
|
64
|
谢娜在比较三款背包的容量。他认为30升算是大的背包。登山包40升。日常包25升。旅行包50升。
|
absence
|
哪个背包容量最大?
|
旅行包
|
登山包
|
登山包比日常包大。
|
日常包比登山包大。
|
旅行包大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
65
|
张涛在比较三本书的页数。他认为300页算是大的书。A书400页。B书250页。C书350页。
|
absence
|
哪本书页数最多?
|
A书
|
C书
|
C书比B书大。
|
B书比C书大。
|
A书大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
66
|
张伟在比较三只狗的速度。他认为每小时30公里算是快的狗。阿黄25公里。小黑35公里。小白20公里。
|
absence
|
哪只狗速度最快?
|
小黑
|
小花
|
阿黄比小白快。
|
小白比阿黄快。
|
小黑快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
67
|
刘芳在比较三本书的页数。她觉得300页算是长的书。A书250页。B书400页。C书180页。
|
absence
|
哪本书页数最多?
|
B书
|
A书
|
A书比C书长。
|
C书比A书长。
|
B书长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
68
|
陈强在比较三座山的高度。他认为2000米算是高的山。青山1800米。黄山2200米。蓝山1900米。
|
absence
|
哪座山最高?
|
黄山
|
青山
|
蓝山比青山高。
|
青山比蓝山高。
|
黄山高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
69
|
周敏在比较三杯咖啡的温度。她觉得80度算是烫的咖啡。美式75度。拿铁85度。摩卡70度。
|
absence
|
哪杯咖啡温度最高?
|
拿铁
|
美式
|
美式比摩卡烫。
|
摩卡比美式烫。
|
拿铁烫。
|
烫
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.558969
|
70
|
吴磊在比较三条河流的长度。他认为500公里算是长的河。长江6300公里。黄河550公里。淮河420公里。
|
presence
|
哪条河流最长?
|
长江
|
黄河
|
黄河比淮河长。
|
淮河比黄河长。
|
长江长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
71
|
林婷在比较三支铅笔的价格。她觉得5元算是贵的铅笔。红笔3元。蓝笔6元。绿笔4元。
|
absence
|
哪支铅笔最贵?
|
蓝笔
|
绿笔
|
绿笔比红笔贵。
|
红笔比绿笔贵。
|
蓝笔贵。
|
贵
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.038162
|
72
|
赵刚在比较三场电影的时长。他觉得2小时算是长的电影。动作片1.5小时。爱情片2.3小时。喜剧片1.8小时。
|
absence
|
哪场电影时长最长?
|
爱情片
|
喜剧片
|
喜剧片比动作片长。
|
动作片比喜剧片长。
|
爱情片长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
73
|
孙莉在比较三款手机的重量。她觉得200克算是重的手机。X机180克。Y机210克。Z机195克。
|
absence
|
哪款手机最重?
|
Y机
|
Z机
|
Z机比X机重。
|
X机比Z机重。
|
Y机重。
|
重
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.955698
|
74
|
王浩在比较三棵树的年龄。他认为50年算是老的树。松树40年。槐树60年。柳树45年。
|
absence
|
哪棵树年龄最大?
|
槐树
|
柳树
|
柳树比松树老。
|
松树比柳树老。
|
槐树老。
|
老
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.15255
|
75
|
黄娟在比较三双鞋的尺码。她觉得40码算是大的鞋。运动鞋38码。皮鞋41码。凉鞋39码。
|
absence
|
哪双鞋尺码最大?
|
皮鞋
|
凉鞋
|
凉鞋比运动鞋大。
|
运动鞋比凉鞋大。
|
皮鞋大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
76
|
徐峰在比较三只猫的体重。他认为5公斤算是重的猫。花猫4.2公斤。黑猫5.5公斤。白猫4.8公斤。
|
absence
|
哪只猫最重?
|
黑猫
|
白猫
|
白猫比花猫重。
|
花猫比白猫重。
|
黑猫重。
|
重
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.955698
|
77
|
郑雪在比较三栋楼的层数。她觉得20层算是高的楼。A楼18层。B楼25层。C楼15层。
|
absence
|
哪栋楼层数最多?
|
B楼
|
A楼
|
A楼比C楼高。
|
C楼比A楼高。
|
B楼高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
78
|
马强在比较三碗面的辣度。他觉得3颗辣椒算是辣的面。牛肉面2颗。酸辣面4颗。鸡汤面1颗。
|
absence
|
哪碗面最辣?
|
酸辣面
|
牛肉面
|
牛肉面比鸡汤面辣。
|
鸡汤面比牛肉面辣。
|
酸辣面辣。
|
辣
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -11.417615
|
79
|
何静在比较三件羽绒服的保暖度。她觉得零下10度算是暖的羽绒服。红款零下5度。蓝款零下15度。黄款零下8度。
|
absence
|
哪件羽绒服最暖?
|
蓝款
|
黄款
|
黄款比红款暖。
|
红款比黄款暖。
|
蓝款暖。
|
暖
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.892349
|
80
|
郭涛在比较三台电脑的耗电量。他认为100瓦算是费电的电脑。台式机120瓦。笔记本80瓦。平板60瓦。
|
absence
|
哪台电脑最费电?
|
台式机
|
笔记本
|
笔记本比平板费电。
|
平板比笔记本费电。
|
台式机费电。
|
费电
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -12.429216
|
81
|
谢琳在比较三款包的容量。她觉得10升算是大的包。手提包8升。双肩包12升。斜挎包9升。
|
absence
|
哪个包容量最大?
|
双肩包
|
斜挎包
|
斜挎包比手提包大。
|
手提包比斜挎包大。
|
双肩包大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
82
|
方明在比较三把椅子的承重。他认为150公斤算是结实的椅子。木椅130公斤。铁椅160公斤。塑料椅140公斤。
|
absence
|
哪把椅子最结实?
|
铁椅
|
塑料椅
|
塑料椅比木椅结实。
|
木椅比塑料椅结实。
|
铁椅结实。
|
结实
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -12.157282
|
83
|
程红在比较三盆植物的高度。她觉得1米算是高的植物。多肉0.3米。绿萝0.8米。龟背竹1.2米。
|
absence
|
哪盆植物最高?
|
龟背竹
|
绿萝
|
绿萝比多肉高。
|
多肉比绿萝高。
|
龟背竹高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
84
|
吕杰在比较三款耳机的音量。他觉得90分贝算是响的耳机。A款85分贝。B款95分贝。C款88分贝。
|
absence
|
哪款耳机音量最大?
|
B款
|
A款
|
C款比A款响。
|
A款比C款响。
|
B款响。
|
响
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.407669
|
85
|
丁兰在比较三块电池的续航。她觉得24小时算是耐用的电池。甲电池20小时。乙电池26小时。丙电池22小时。
|
absence
|
哪块电池续航最长?
|
乙电池
|
丙电池
|
丙电池比甲电池耐用。
|
甲电池比丙电池耐用。
|
乙电池耐用。
|
耐用
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -12.710254
|
86
|
陆飞在比较三把刀的锋利度。他认为能切5层纸算是锋利的刀。水果刀3层。菜刀7层。美工刀4层。
|
absence
|
哪把刀最锋利?
|
菜刀
|
美工刀
|
美工刀比水果刀锋利。
|
水果刀比美工刀锋利。
|
菜刀锋利。
|
锋利
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -12.80391
|
87
|
张涛在比较三个学生的年龄。他觉得15岁算是大的学生。李华12岁。张伟18岁。王芳14岁。
|
absence
|
哪个学生年龄最大?
|
张伟
|
王芳
|
王芳比李华大。
|
李华比王芳大。
|
张伟大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
88
|
陈敏在比较三只动物的速度。她觉得60公里每小时算是快的动物。猎豹70公里每小时。乌龟50公里每小时。兔子55公里每小时。
|
presence
|
哪个动物速度最快?
|
猎豹
|
兔子
|
兔子比乌龟快。
|
乌龟比兔子快。
|
猎豹快。
|
快
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.390642
|
89
|
刘芳在比较三个城市的温度。她觉得30摄氏度算是热的城市。香港35度。北京28度。上海25度。
|
presence
|
哪个城市最热?
|
香港
|
北京
|
北京比上海热。
|
上海比北京热。
|
香港热。
|
热
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -9.233609
|
90
|
周强在比较三条河流的长度。他觉得500米算是长的河流。长江600米。黄河400米。珠江450米。
|
presence
|
哪条河流最长?
|
长江
|
珠江
|
珠江比黄河长。
|
黄河比珠江长。
|
长江长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
91
|
吴莉在比较三个国家的面积。她觉得100万平方公里算是大的国家。俄罗斯200万。法国50万。日本80万。
|
presence
|
哪个国家面积最大?
|
俄罗斯
|
日本
|
日本比法国大。
|
法国比日本大。
|
俄罗斯大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
92
|
郑浩在比较三个瓶子的体积。他觉得1升算是大的瓶子。红瓶1.5升。白瓶0.8升。紫瓶0.5升。
|
absence
|
哪个瓶子体积最大?
|
红瓶
|
白瓶
|
白瓶比紫瓶大。
|
紫瓶比白瓶大。
|
红瓶大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
93
|
孙雨在比较三个书包的重量。她觉得5公斤算是重的书包。A书包6公斤。B书包4公斤。C书包3公斤。
|
absence
|
哪个书包最重?
|
A书包
|
B书包
|
B书包比C书包重。
|
C书包比B书包重。
|
A书包重。
|
重
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.955698
|
94
|
赵刚在比较三部电影的时长。他觉得2小时算是长的电影。X电影2.5小时。Y电影1.5小时。Z电影1.8小时。
|
absence
|
哪部电影时长最长?
|
X电影
|
Z电影
|
Z电影比Y电影长。
|
Y电影比Z电影长。
|
X电影长。
|
长
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.437084
|
95
|
杨雪在比较三次考试的分数。她觉得90分算是高的分数。小明95分。小红85分。小刚88分。
|
absence
|
哪次考试分数最高?
|
小明
|
小刚
|
小刚比小红高。
|
小红比小刚高。
|
小明高。
|
高
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -7.484009
|
96
|
徐磊在比较三个杯子的容量。他觉得300毫升算是大的杯子。甲杯400毫升。乙杯250毫升。丙杯200毫升。
|
absence
|
哪个杯子容量最大?
|
甲杯
|
乙杯
|
乙杯比丙杯大。
|
丙杯比乙杯大。
|
甲杯大。
|
大
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.377127
|
97
|
何婷在比较三个人的跑步距离。她觉得10公里算是远的距离。甲跑了15公里。乙跑了8公里。丙跑了9公里。
|
absence
|
哪个人跑步最远?
|
甲
|
丙
|
丙比乙远。
|
乙比丙远。
|
甲远。
|
远
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -8.932709
|
98
|
黄伟在比较三个灯泡的亮度。她觉得1000流明算是亮的灯泡。A灯1200流明。B灯800流明。C灯900流明。
|
absence
|
哪个灯泡最亮?
|
A灯
|
C灯
|
C灯比B灯亮。
|
B灯比C灯亮。
|
A灯亮。
|
亮
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -10.865822
|
99
|
林娜在比较三个地方的书籍数量。她觉得50本算是多的书籍。图书馆100本。书店30本。学校40本。
|
absence
|
哪个地方书最多?
|
图书馆
|
学校
|
图书馆书籍比书店多。
|
书店比图书馆书籍多。
|
图书馆书籍多。
|
多
| 1
|
necessarily
|
pos-t-comp-t
|
upward
| -6.425329
|
Dataset Card for Chinese Degree Expressions for Pragmatic Reasoning (CDE-Prag), an ongoing project about Enriched Meaning.
Dataset Summary
CDE-Prag is a theory-driven evaluation dataset designed to probe the pragmatic competence of Large Language Models (LLMs) and Vision-Language Models (VLMs). It focuses specifically on manner implicatures and ambiguity detection through the lens of Chinese degree expressions (e.g., Kai gao, which is ambiguous between "Kai is tall" and "Kai is taller").
CDE-Prag tests whether models can navigate the trade-off between production cost (economy) and communicative utility (specificity). The dataset is divided into two subsets:
- Exploratory VLM Dataset: A multimodal set (text + image) derived from human-subject research.
- Large-Scale LLM Dataset: A text-only expansion containing 400 balanced context-utterance sets generating over 28,000 unique items.
Supported Tasks and Leaderboards
The dataset supports three primary pragmatic tasks:
- Truth Value Judgment (TVJ): A "test of contradiction" to determine if the model can detect ambiguity. The model must judge if an utterance is true in contexts where only one interpretation (Positive or Comparative) holds.
- Alternative Choice (ALT): A pragmatic reconciliation task. The model must choose between a simple, ambiguous utterance (Economy) and complex, unambiguous alternatives (Specificity).
- Contextual Modulation (ALT+QUD): A conversational task where an explicit Question Under Discussion (QUD) is provided to test if the model shifts its preference based on contextual salience.
Languages
The dataset is in Mandarin Chinese (Simplified).
Dataset Structure
Data Instances
VLM Subset [work-in-progress]
An example instance for the VLM dataset includes a visual scene and a context description:
{
"id": "vlm_tall_01",
"modality": "multimodal",
"context_text": "Anna considers 172cm to be tall. Ryan is 160cm, Kai 175cm, Jim 170cm.",
"image_path": "images/tall_01.png",
"utterance": "Kai gao (Kai is tall)",
"condition": "POS-T-COMP-F",
"task_type": "TVJ",
"options": ["Can", "Cannot"],
"human_label_distribution": {"Can": 1.0, "Cannot": 0.0}
}
LLM Subset
An example for the text-only ALT task:
{
"id": "llm_expensive_05",
"modality": "text",
"context_text": "Description of a scenario where Item A is expensive but Item B is more expensive...",
"utterance": "Item A gui (Item A is expensive)",
"alternatives": {
"UTT": "Item A gui",
"ALT_1": "Item A hen gui (Positive)",
"ALT_2": "Item A bijiao gui (Comparative)",
"ALT_3": "Item A hen gui but not taller...",
"ALT_4": "Item A bijiao gui but not positive..."
},
"condition": "POS-T-COMP-T",
"task_type": "ALT",
"QUD": "None"
}
Data Fields
context_text: The linguistic context establishing the world state (thresholds, comparison classes).image: (VLM only) Visual representation of the world state.utterance: The target ambiguous Chinese degree expression.condition: The truth-conditional status of the utterance (e.g.,POS-T-COMP-Fmeans Positive reading is True, Comparative reading is False).alternatives: A set of semantically equivalent but costlier options used in the ALT tasks.QUD: (Task 3 only) An explicit Question Under Discussion designed to make one reading more salient.
Data Splits
- VLM Subset: 26 unique sets based on 4 evaluative adjectives (tall, expensive, big, fast). Intended for few-shot or exploratory evaluation.
- LLM Subset: 400 balanced sets covering 34 additional adjectives (e.g., hot, thick, old), totaling ~28,000 unique items. This split is designed for high-powered statistical validation.
Dataset Creation
Curation Rationale
This dataset was created to bridge the gap in multilingual and multimodal pragmatic resources. Current benchmarks often focus on literal semantics or scalar implicatures (mostly in English). CDE-Prag explicitly targets M-implicatures (Manner), where the choice of form (simple vs. complex) drives meaning. It allows researchers to test if models behave as "rational agents" by optimizing the trade-off between production cost and communicative clarity.
Source Data
- VLM Data: Derived from human-subject experimental stimuli in Cong (2021). The images and contexts were validated for grammaticality and word frequency.
- LLM Data: Manually crafted expansions of the VLM logic. The text-only scenarios verbalize the visual information found in the VLM subset.
Annotations
- Validation: All items were manually verified for acceptability by a linguist who is a native speaker of Mandarin Chinese.
- Human Baseline: The dataset includes aggregated human response distributions (N=21 per task) to establish a "human-like" baseline for rationality and ambiguity detection.
Considerations for Using the Data
Social Impact of Dataset
This dataset contributes to the development of more culturally and linguistically inclusive AI. It evaluates models on an understudied pragmatic phenomena. Furthermore, by probing "rational" communication strategies, it aids in creating agents that communicate more efficiently and naturally with humans.
Other Known Limitations
- Scale of VLM Data: The VLM subset is small (26 items) and should be treated as a proof-of-concept. Statistical claims based on this subset rely on bootstrapping over generations rather than items.
- Domain Specificity: The dataset focuses on degree expressions (gradable adjectives). Generalizability to other pragmatic phenomena (e.g., irony, metaphors) remains to be tested.
Additional Information
Citation Information
We acknowledge Brian Buccola, Phillip Wolff, and Marcin Morzycki for their inspirations and fruitful discussions. This research is supported by the College of Liberal Arts at Purdue University. If you find this resource useful, please consider citing our work:
@article{Cong2026Pragmatic,
title={A pragmatic account of ambiguity in language models: Evidence from Chinese},
author={Cong, Yan},
journal={Under Review},
year={2026},
note={https://huggingface.co/datasets/yancong/EnrichedMeaningDataset}
}
- Downloads last month
- 6