Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >Unix中如何删除重复的行而不进行排序?

Unix中如何删除重复的行而不进行排序?

提问于 2018-03-11 16:09:21
回答 2关注 0查看 310

我在Python中有一个实用程序脚本:

代码语言:javascript
运行
AI代码解释
复制
#!/usr/bin/env python
import sys
unique_lines = []
duplicate_lines = []
for line in sys.stdin:
  if line in unique_lines:
    duplicate_lines.append(line)
  else:
    unique_lines.append(line)
    sys.stdout.write(line)
# optionally do something with duplicate_lines

这个简单的功能必须作为一个简单的UNIX实用程序提供,不是吗?

回答 2

0stargazer0

回答已采纳

发布于 2018-03-12 00:52:16

UNIX Bash脚本

代码语言:javascript
运行
AI代码解释
复制
awk '!x[$0]++'

这个命令只是告诉awk要打印哪些行。该变量$0保存一行的全部内容,方括号是数组访问。因此,对于文件的每一行,x如果该节点的内容!先前未设置(),则该数组的节点将增加,并打印该行。

耽尼

发布于 2018-03-12 01:24:06

请执行以下操作:

代码语言:txt
AI代码解释
复制
cat -n file_name | sort -uk2 | sort -nk1 | cut -f2-
  • 使用cat -n将行号放在前面
  • 使用sort -u删除重复数据
  • 使用sort -n按前号排序
  • 使用cut删除行号
和开发者交流更多问题细节吧,去 写回答
相关文章
如何用 awk 删除文件中的重复行【Programming】
了解如何在不排序或更改其顺序的情况下使用awk'!visited $ 0 ++'。
Potato
2019/11/09
10.6K0
如何用 awk 删除文件中的重复行【Programming】
Linux 删除文本中的重复行
这里我做了个简单的测试,当file中的重复行不再一起的时候,uniq将服务删除所有的重复行。经过排序后,所有相同的行都在相邻,因此unqi可以正常删除重复行。
阳光岛主
2019/02/19
10.8K0
如何删除相邻连续的重复行?
根据题意的要求,把要求的结果在原表上用黄色标出,通过观察发现连续登录的某一个页面只保留第一次访问的记录。解题思路是要通过查询,利用信息差过滤掉同一个页面第一次登录后的连续访问记录。
猴子数据分析
2022/07/13
5.6K0
如何删除相邻连续的重复行?
[Leetcode][python]删除排序数组中的重复项/删除排序数组中的重复项 II
数组完成排序后,我们可以放置两个指针 ii 和 jj,其中 ii 是慢指针,而 jj 是快指针。只要 nums[i] = nums[j]nums[i]=nums[j],我们就增加 jj 以跳过重复项。
蛮三刀酱
2019/03/26
8.7K0
[Leetcode][python]删除排序链表中的重复元素/删除排序链表中的重复元素 II
如果当前节点有后一个节点,且它们的值相等,那么当前节点指向后一个节点的下一个节点,这样就可以去掉重复的节点。
蛮三刀酱
2019/03/26
3.6K0
MySQL 如何查找删除重复行?
第一步是定义什么样的行才是重复行。多数情况下很简单:它们某一列具有相同的值。本文采用这一定义,或许你对“重复”的定义比这复杂,你需要对sql做些修改。本文要用到的数据样本:
Bug开发工程师
2020/03/12
7.8K0
MySQL 如何查找删除重复行?
MySQL 如何查找删除重复行?
第一步是定义什么样的行才是重复行。多数情况下很简单:它们某一列具有相同的值。本文采用这一定义,或许你对“重复”的定义比这复杂,你需要对sql做些修改。本文要用到的数据样本:
芋道源码
2019/10/22
6.8K0
删除排序链表中的重复元素
题意 给定一个排序链表,删除所有重复的元素每个元素只留下一个。 样例 给出 1->1->2->null,返回 1->2->null 给出 1->1->2->3->3->null,返回 1->2->3->null 思路 设置一个指针指向排序链表的头结点,遍历链表,若当前元素与下一个元素相同,直接将下一个元素的 next 指向下下个即可。 代码实现 /** * Definition for ListNode * public class ListNode { * int val; * L
一份执着✘
2018/06/04
1.8K0
删除排序数组中的重复项
给定一个排序数组,你需要在 原地 删除重复出现的元素,使得每个元素只出现一次,返回移除后数组的新长度。
_kyle
2020/11/03
6.1K0
[随缘一题]删除排序链表中的重复元素
如果当前节点的值和下一节点的值相等,则跳过下一个节点.即将当前节点的next指针指向下一个节点的指针.
呼延十
2019/07/01
1.7K0
删除排序数组中的重复项
给定一个排序数组,你需要在 原地 删除重复出现的元素,使得每个元素只出现一次,返回移除后数组的新长度。不要使用额外的数组空间,你必须在 原地 修改输入数组 并在使用 O(1) 额外空间的条件下完成。
木瓜煲鸡脚
2020/09/23
6.6K0
<leetcode刷题-数组>删除排序数组中的重复项
给你一个有序数组 nums ,请你 原地 删除重复出现的元素,使每个元素 只出现一次 ,返回删除后数组的新长度。
哆哆jarvis
2022/08/23
5.8K0
Linux删除重复行
第一,用sort+uniq,注意,单纯uniq是不行的。 sort -n test.txt | uniq
阳光岛主
2019/02/19
13.3K0
[leetcode数组系列]3 删除排序数组中的重复项
1 leetcode原文链接 https://leetcode-cn.com/problems/remove-duplicates-from-sorted-array/ 示例1
我是程序员小贱
2020/06/05
5.4K0
LeetCode - 删除排序数组中的重复项
LeetCode第26题,难度简单。这题题目也是相当的长,所以只取了题目的主干,示例和说明请点击下方链接查看详情。
晓痴
2019/08/22
5.2K0
LeetCode - 删除排序数组中的重复项
删除排序数组中的重复数字
题意 给定一个排序数组,在原数组中删除重复出现的数字,使得每个元素只出现一次,并且返回新的数组的长度。 不要使用额外的数组空间,必须在原地没有额外空间的条件下完成。 样例 给出数组nums =[5,6,8,9,9,10],你的函数应该返回长度5,此时nums = [5,6,8,9,10]。 思路 用 2 个指针,一个指有效元素的长度,一个从前向后扫,跳过重复的元素,将不重复的元素依次放到数组前方,最后返回有效元素的长度即可。 代码实现 public class Solution { /**
一份执着✘
2018/06/04
1.6K0
删除排序数组中的重复数字Ⅱ
题意 根据 删除排序数组中的重复数字 中的题意,跟进 ”删除重复数字“,如果可以允许出现两次重复将如何处理? 样例 给出数组 A = [1,1,2,2,2,3],你的函数应该返回长度 5,此时 A = [1,1,2,2,3]。 思路 这道题跟 删除排序数组中的重复数字 差不多,无非就是多判断一次,判断是否有两个连续的重复元素即可。 代码实现 public class Solution { /** * @param A: a array of integers * @return
一份执着✘
2018/06/04
1.4K0
删除排序链表中重复元素的方法
链表的操作非常常见,也是面试中经常会被问道的问题。对于链表重复元素的删除,有两个变体,现在总结如下。 链表代码如下:
冬天里的懒猫
2020/08/03
1.2K0
MySQL | 查找删除重复行
本文讲述如何查找数据库里重复的行。这是初学者十分普遍遇到的问题。方法也很简单。这个问题还可以有其他演变,例如,如何查找“两字段重复的行”(#mysql IRC 频道问到的问题)
逍遥子大表哥
2021/12/17
6.8K0
MySQL | 查找删除重复行
112. 删除排序链表中的重复元素比较删除
给定一个排序链表,删除所有重复的元素每个元素只留下一个。 样例 给出 1->1->2->null,返回 1->2->null 给出 1->1->2->3->3->null,返回 1->2->3->null
和蔼的zhxing
2018/09/04
9200

相似问题

如何在nodepad++中删除重复的行?

21.1K

如何使用dplyr删除重复的行?

2695

如何在维护排序的同时从列表中删除重复项?

2410

如何使sed删除行不匹配的替代?

2721

如何从ArrayList中删除重复的元素?

2359
相关问答用户
中建数科 | 技术总监架构部总经理擅长3个领域
公司公司公司公司公司公司 | 职务职务职务职务职务职务擅长3个领域
擅长5个领域
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档