博客
简体中文

在线去除重复行 — 文本列表去重

删除重复的行,按原顺序保留每项的第一次出现

在浏览器中处理 · 不上传任何内容

0 行 → 保留 0 行,删除重复 0 行

功能简介

这个工具会找出列表中重复的行,每种只保留第一次出现的那一行。粘贴邮箱地址、关键词、日志或配置项,每行一个,就能立即得到去重后的列表,并看到原有行数、保留行数和删除行数。

使用方法

  1. 把内容粘贴到输入框,每行一项。
  2. 按需开启选项:“忽略大小写”把 Apple 和 apple 视为相同;“忽略首尾空格”比较时不看行首和行尾的空白;“删除空行”会彻底删除所有空行。
  3. 去重后的列表显示在结果框中。
  4. 点击“复制”带走结果。

工作原理

  • 文本按换行符(\n 或 \r\n)拆分,从上到下读取。已经出现过的行会被跳过,新出现的行加入结果。
  • 比较时使用 Unicode NFC 规范化后的行,并根据选项去除首尾空格或转为小写。结果始终保留原始的行。
  • 忽略大小写只影响英文等有大小写的字母,中文、韩文等没有大小写的文字不受影响。
  • 默认情况下,空行和其他行一样处理,只保留一个。开启“删除空行”后所有空行都会消失,只含空格或制表符的行也算空行。删除的空行数会和重复行数分开显示。
  • 如果输入使用 Windows 换行符(\r\n),输出也会使用它。
  • 末尾单独的一个换行不算作多出来的空行。

示例

输入的行:苹果、香蕉、apple、苹果、Apple、香蕉、apple。

选项 结果 删除
默认 苹果、香蕉、apple、Apple 3 行
忽略大小写 苹果、香蕉、apple 4 行

常见问题

重复的行保留哪一个?

保留第一个。后面重复出现的行会被删除,剩下的行保持原来的顺序。

忽略空格后,输出也会去掉空格吗?

不会。空格只在判断两行是否相同时被忽略,保留下来的行和你输入的一模一样。

中文的全角和半角字符会被视为相同吗?

不会。每行在比较前只做 Unicode NFC 规范化,它能让分解形式和组合形式的同一文字(例如从 macOS 复制的某些韩文文件名)匹配,但不会把全角字母、全角数字和半角字符视为相同。

我的数据会被上传吗?

不会。所有处理都在浏览器中完成。

没找到想要的工具?