[update]edit readme

README.md

@@ -13,13 +13,13 @@ size_categories:
 数据集从网上收集整理如下:
 | 数据 | 语言 | 原始数据/项目地址 | 样本个数 | 原始数据描述 | 替代数据下载地址 |
 | :--- | :---: |     :---:      |   :---: |    :---:    |     :---:     |
-| ChineseSTS | 汉语 | [ChineseSTS](https://github.com/IAdmireu/ChineseSTS) | 24.7K | STS 中文文本语义相似度（使用时注意打乱数据集） | [ChineseSTS](https://huggingface.co/datasets/tiansz/ChineseSTS) |
+| ChineseSTS | 汉语 | [ChineseSTS](https://github.com/IAdmireu/ChineseSTS) | 24.7K | STS 中文文本语义相似度（这个数据集好像很多标签是错的，不建议使用。） | [ChineseSTS](https://huggingface.co/datasets/tiansz/ChineseSTS) |
 | ccks2018_task3 | 汉语 | [BQ_corpus](http://icrc.hitsz.edu.cn/info/1037/1162.htm); [CCKS2018_3](https://www.biendata.xyz/competition/CCKS2018_3/data/) | TRAIN: 100K, VALID: 10K, TEST: 10K | CCKS 2018 微众银行智能客服问句匹配大赛 | [BQ_corpus](https://github.com/IceFlameWorm/NLP_Datasets/tree/master/BQ_corpus) |
 | DIAC2019 | 汉语 | [DIAC2019](https://www.biendata.xyz/competition/2019diac/data/) | 6K | 以问题组的形式提供，每组问句又分为等价部分和不等价部分，等价问句之间互相组合可以生成正样本，等价问句和不等价问句之间互相组合可以生成负样本。我们提供6000组问句的训练集。 |  |
 | LCQMC | 汉语 | [LCQMC](http://icrc.hitsz.edu.cn/Article/show/171.html); [LCQMC](https://www.luge.ai/#/luge/dataDetail?id=14); [C18-1166.pdf](https://aclanthology.org/C18-1166.pdf) | TRAIN: 238766, VALID: 8802, TEST: 12500 | 百度知道领域的中文问题匹配数据集，目的是为了解决在中文领域大规模问题匹配数据集的缺失。该数据集从百度知道不同领域的用户问题中抽取构建数据。| [lcqmc_data](https://github.com/xiaohai-AI/lcqmc_data) |
 | AFQMC | 汉语 | [AFQMC](https://tianchi.aliyun.com/dataset/106411) | TRAIN: 34334, VALID: 4316, TEST: 3861 | 蚂蚁金融语义相似度数据集，用于问题相似度计算。即：给定客服里用户描述的两句话，用算法来判断是否表示了相同的语义。 | [ATEC](https://huggingface.co/datasets/shibing624/nli_zh); [ATEC](https://github.com/IceFlameWorm/NLP_Datasets/tree/master/ATEC) |
 | BUSTM | 汉语 | [BUSTM](https://tianchi.aliyun.com/competition/entrance/531851/information); [BUSTM](https://github.com/xiaobu-coai/BUSTM) | 总样本数为：177173，其中，匹配样本个数为：54805，不匹配样本个数为：122368 | 小布助手对话短文本语义匹配比赛数据集 | [BUSTM](https://github.com/CLUEbenchmark/FewCLUE/tree/main/datasets/bustm) |
-| CHIP2019 | 汉语 | [CHIP2019](https://www.biendata.xyz/competition/chip2019/) | 2万 | 平安医疗科技疾病问答迁移学习比赛数据集 |  |
+| CHIP2019 | 汉语 | [CHIP2019](https://www.biendata.xyz/competition/chip2019/) | 2万 | 平安医疗科技疾病问答迁移学习比赛数据集（VALID 集没有 label） |  |
 | COVID-19 | 汉语 | [COVID-19](https://tianchi.aliyun.com/competition/entrance/231776/information) |  | 天池新冠疫情相似句对判定大赛 | [COVID-19](https://gitee.com/liangzongchang/COVID-19-sentence-pair/) |
 | Chinese-MNLI | 汉语 | [Chinese-MNLI](https://github.com/pluto-junzeng/CNSD) | TRAIN: 390K, VALID: 12K, TEST: 13K | 通过翻译加部分人工修正的方法，从英文原数据集生成（原数据是：蕴含，中性，冲突，的句子推理数据集，已转换为句子对）。 |  |
 | Chinese-SNLI | 汉语 | [Chinese-SNLI](https://github.com/pluto-junzeng/CNSD) | TRAIN: 550K, VALID: 10K, TEST: 10K | 通过翻译加部分人工修正的方法，从英文原数据集生成（原数据是：蕴含，中性，冲突，的句子推理数据集，已转换为句子对）。 |  |
@@ -28,6 +28,126 @@ size_categories:
 | PAWSX-ZH | 汉语 | [PAWSX](https://paperswithcode.com/paper/paws-x-a-cross-lingual-adversarial-dataset/review/) | TRAIN: 49.4K, VALID: 2K, TEST: 2K | 从 PAWSX翻译成中文的数据集 | [PAWSX](https://pan.baidu.com/share/init?surl=ox0tJY3ZNbevHDeAqDBOPQ&pwd=mgjn); [PAWSX](https://huggingface.co/datasets/shibing624/nli_zh/viewer/PAWSX) |
 
 
+## 样本示例
+
+ChineseSTS: 这个数据集好像很多标签是错的，不建议使用。
+
+`穆斯林认为伊斯兰教的先知（`, `）是被真主挑选成为他的信使的人物。`, `1`
+
+`咱俩谁跟谁呀。`, `我们俩谁跟谁呀。`, `1`
+
+`咱俩谁跟谁呀。`, `咱俩关系很好。`, `0`
+
+`他买了王教授一本书。`, `他买了王教授的书。`, `0`
+
+ccks2018_task3: 
+
+`用微信都6年，微信没有微粒贷功能`, `4。  号码来微粒贷`, `0`
+
+`微信消费算吗`, `还有多少钱没还`, `0`
+
+`为什么借款后一直没有给我回拨电话`, `怎么申请借款后没有打电话过来呢！`, `1`
+
+`已经在银行换了新预留号码。`, `已经在银行换了新预留号码。`, `1`
+
+DIAC2019: 这个数据集像是从分类数据集组合而来，有很多句子是重复的。
+
+`人民���院不予受理的民事案件有哪些情形？`, `民事诉讼什么情况下不能立案`, `0`
+
+`民事诉讼中对哪些情形的起诉法院不予受理`, `人民法院不予受理的民事案件有哪些情形？`, `1`
+
+`民事诉讼中对哪些情形的起诉法院不予受理`, `哪些案件会给开具民事诉讼不予立案通知书`, `0`
+
+`民事诉讼中对哪些情形的起诉法院不予受理`, `哪些情形下，不予受理民事诉讼申请？`, `1`
+
+LCQMC: 
+
+`喜欢打篮球的男生喜欢什么样的女生`, `爱打篮球的男生喜欢什么样的女生`, `1`
+
+`我手机丢了，我想换个手机`, `我想买个新手机，求推荐`, `1`
+
+`大家觉得她好看吗`, `大家觉得跑男好看吗？`, `0`
+
+`求秋色之空漫画全集`, `求秋色之空全集漫画`, `1`
+
+AFQMC: 
+
+`蚂蚁借呗等额还款可以换成先息后本吗`, `借呗有先息到期还本吗`, `0`
+
+`蚂蚁花呗说我违约一次`, `蚂蚁花呗违约行为是什么`, `0`
+
+`支付宝系统点我的里面没有花呗这一项`, `我下载支付宝怎么没有花呗的`, `1`
+
+`花呗消费超过额度有什么影响吗`, `花呗额度成负数有啥影响吗`, `1`
+
+BUSTM: 
+
+`叫爸爸叫一声我听听`, `那你叫我一声爸爸`, `1`
+
+`十亿韩元等于多少人民币`, `一百元人民币`, `0`
+
+`我喜欢你那你喜欢我吗`, `你喜欢我不我也喜欢你`, `0`
+
+`你晚上吃了什么`, `你晚上吃啥了`, `1`
+
+CHIP2019: 这个数据集的 validation 子集没有标签。
+
+`艾滋病窗口期会出现腹泻症状吗`, `头疼腹泻四肢无力是不是艾滋病`, `0`
+
+`由于糖尿病引起末梢神经炎，怎么根治？`, `糖尿病末梢神经炎的治疗方法`, `1`
+
+`H型高血压，是通所说的高血脂？`, `高血压引起脑出血怎么抢救治疗`, `0`
+
+`你好，我60岁，患高血压，80135，爱喝酸奶可以吗？`, `高血压糖尿病人可以喝牛奶吗？`, `1`
+
+COVID-19: 
+
+`剧烈运动后咯血,是怎么了?`, `剧烈运动后咯血是什么原因？`, `1`
+
+`剧烈运动后咯血,是怎么了?`, `剧烈运动后为什么会咯血？`, `1`
+
+`剧烈运动后咯血,是怎么了?`, `剧烈运动后咯血，应该怎么处理？`, `0`
+
+`剧烈运动后咯血,是怎么了?`, `剧烈运动后咯血，需要就医吗？`, `0`
+
+`剧烈运动后咯血,是怎么了?`, `剧烈运动后咯血，是否很严重？`, `0`
+
+Chinese-MNLI: 
+
+`从概念上讲，奶油略读有两个基本维度-产品和地理。`, `产品和地理位置是使奶油撇油起作用的原因。`, `0`
+
+`我们的一个号码将执行您的指示。`, `我的一个队员会非常精确地执行你的命令。`, `1`
+
+`怎么又知道了？这又是他们的信息。`, `这些信息属于他们。`, `1`
+
+`同性恋。`, `异性恋者。`, `0`
+
+STS-B: 这个数据集原本是 0-5 的相似度打分，我把它转换为 >=3 的为相似，其它为不相似。这可能会导致一些问题。
+
+`一架飞机要起飞了。`, `一架飞机正在起飞。`, `1`
+
+`一个男人在吹一支大笛子。`, `一个人在吹长笛。`, `1`
+
+`一个人正把切碎的奶酪撒在比萨饼上。`, `一个男人正在把切碎的奶酪撒在一块未煮好的比萨饼上。`, `1`
+
+`三个人在下棋。`, `两个人在下棋。`, `0`
+
+`一个男人在抽烟。`, `一个男人在滑冰。`, `0`
+
+`一个女人在写作。`, `一个女人在游泳。`, `0`
+
+PAWSX-ZH: 这个数据集可能不适合用于 FAQ 相似问匹配的任务。
+
+`1975年的NBA赛季 -  76赛季是全美篮球协会的第30个赛季。`, `1975-76赛季的全国篮球协会是NBA的第30个赛季。`, `1`
+
+`当可以保持相当的流速时，结果很高。`, `当可以保持可比较的流速时，结果很高。`, `1`
+
+`kBox有助于等长和同心收缩以及离心训练。`, `kBox有助于偏心以及同心收缩和等长训练。`, `0`
+
+`例如，要输入长度为4厘米的垂直线，绘制就足够了：`, `例如，为了绘制4厘米长的垂直线，只需键入：`, `0`
+
+
+## 数据来源
 <details>
 <summary>参考的数据来源,展开查看</summary>
 <pre><code>

data/chinese_sts.jsonl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:a03523b11d7009aa7c54a7b2dfb641c71b66e8f18cfa5ac61229ace85d99c516
-size 6895331
+oid sha256:716b577788132becaac8da374b163bd641c6e48ce153b0e6d7edfab5e2edc8b1
+size 3012447

examples/preprocess/process_chinese_sts.py

@@ -57,6 +57,9 @@ def main():
             label = splits[2]
             label = str(int(float(label)))
 
+            if sentence1 == sentence2:
+                continue
+
             if label not in ("0", "1", None):
                 raise AssertionError