在线去除重复行 — 文本列表去重
删除重复的行,按原顺序保留每项的第一次出现
在浏览器中处理 · 不上传任何内容
功能简介
这个工具会找出列表中重复的行,每种只保留第一次出现的那一行。粘贴邮箱地址、关键词、日志或配置项,每行一个,就能立即得到去重后的列表,并看到原有行数、保留行数和删除行数。
使用方法
- 把内容粘贴到输入框,每行一项。
- 按需开启选项:“忽略大小写”把 Apple 和 apple 视为相同;“忽略首尾空格”比较时不看行首和行尾的空白;“删除空行”会彻底删除所有空行。
- 去重后的列表显示在结果框中。
- 点击“复制”带走结果。
工作原理
- 文本按换行符(\n 或 \r\n)拆分,从上到下读取。已经出现过的行会被跳过,新出现的行加入结果。
- 比较时使用 Unicode NFC 规范化后的行,并根据选项去除首尾空格或转为小写。结果始终保留原始的行。
- 忽略大小写只影响英文等有大小写的字母,中文、韩文等没有大小写的文字不受影响。
- 默认情况下,空行和其他行一样处理,只保留一个。开启“删除空行”后所有空行都会消失,只含空格或制表符的行也算空行。删除的空行数会和重复行数分开显示。
- 如果输入使用 Windows 换行符(\r\n),输出也会使用它。
- 末尾单独的一个换行不算作多出来的空行。
示例
输入的行:苹果、香蕉、apple、苹果、Apple、香蕉、apple。
| 选项 | 结果 | 删除 |
|---|---|---|
| 默认 | 苹果、香蕉、apple、Apple | 3 行 |
| 忽略大小写 | 苹果、香蕉、apple | 4 行 |
常见问题
重复的行保留哪一个?
保留第一个。后面重复出现的行会被删除,剩下的行保持原来的顺序。
忽略空格后,输出也会去掉空格吗?
不会。空格只在判断两行是否相同时被忽略,保留下来的行和你输入的一模一样。
中文的全角和半角字符会被视为相同吗?
不会。每行在比较前只做 Unicode NFC 规范化,它能让分解形式和组合形式的同一文字(例如从 macOS 复制的某些韩文文件名)匹配,但不会把全角字母、全角数字和半角字符视为相同。
我的数据会被上传吗?
不会。所有处理都在浏览器中完成。