أداة إلغاء تكرار ملف CSV

تتسلل النسخ المكررة إلى عمليات تصدير ملف CSV بطرق مزعجة: عمليات تسليم خطاف الويب المتكررة، أو تقريران متسلسلان يدويًا، أو صلة تؤدي إلى انتشار صفوف لم تكن تتوقعها. تعمل أداة إلغاء البيانات المكررة هذه على تجزئة كل صف بيانات والاحتفاظ بالتكرار الأول فقط، وبالتالي يحافظ الإخراج على ترتيب الصف الأصلي مع إسقاط النسخ بهدوء. يعد صف الرأس اختياريًا - اقلب مفتاح التبديل إذا كان ملفك يبدأ مباشرةً بالبيانات.

كيف يعمل إلغاء البيانات المكررة

  1. 1

    الصق ملف CSV

    تضمين صف الرأس أو استبعاده؛ استخدم مربع الاختيار لإخبار الأداة عن ماهيتها.

  2. 2

    يتم تجزئة كل صف

    يتم تحليل الصفوف إلى صفائف ويتم استخدام MD5 لتمثيل JSON الخاص بها كمفتاح التفرد.

  3. 3

    الأول ظهورًا هو الذي يبقى

    يتم الاحتفاظ بالصف الأول الذي يحمل تجزئة معينة. أما الصفوف اللاحقة التي تحتوي على نفس المحتوى فيتم تخطيها بصمت.

  4. 4

    تم الحفاظ على الرأس

    إذا كان وضع الرأس قيد التشغيل، فسيتم دائمًا تمرير الصف 1 دون إلغاء التكرار في البيانات.

ما يعتبر نسخة مكررة

يستخدم أداة إلغاء البيانات المكررة مساواة الصف الكامل. يتم تكرار صفين عندما تتطابق كل خلية، موضعًا تلو الآخر، بعد تحليل CSV القياسي.

الأشياء التي لا تزال تعتبر مختلفة

الصف أ الصف ب تعامل كـ
Alice,30,Paris Alice, 30, Paris مختلفة (مسافات زائدة)
Bob,25 Bob,25, مختلفة (خلية فارغة زائدة)
"Jane Smith",42 Jane Smith,42 نفسه (الاقتباس على مستوى المحلل اللغوي)
TRUE,1 true,1 مختلفة (حساسة لحالة الأحرف)

متى يكون الحذف على مستوى العمود أكثر ملاءمة

تعد مطابقة الصفوف الكاملة صارمة - وهو ما تريده عادةً، ولكن في بعض الأحيان تريد بالفعل “صفًا واحدًا لكل بريد إلكتروني بغض النظر عن الأعمدة الأخرى”. في هذه الحالة، استخدم أولاً أداة استخراج أعمدة CSV لتقليل الملف إلى عمود المفتاح فقط، ثم قم بإزالته واستخدم النتيجة كبحث. أو يمكنك الوصول إلى SQL: SELECT DISTINCT ON (email) * FROM users ORDER BY email, created_at DESC; في PostgreSQL، أو GROUP BY مع تجميعات MIN() في مكان آخر.

نصائح عملية

  • تطبيع قبل الحذف. قم بقص المسافة البيضاء وتوحيد الغلاف على أعمدة المفاتيح أولاً، وإلا فسيظل كل من ALICE@EXAMPLE.COM وalice@example.com على قيد الحياة.
  • قم بالفرز ثم الحذف للحصول على نتائج قابلة للتدقيق. إذا كنت تريد معرفة النسخة التي تم الاحتفاظ بها، فقم بفرز ملف CSV حسب الفاصل الزمني المفضل لديك (أحدث طابع زمني، أدنى معرف) قبل تشغيل أداة إلغاء البيانات المكررة.
  • تحقق من عدد الصفوف. استخدم عداد الصفوف بتنسيق CSV الموجود في المستند الأصلي وقم بالإخراج لتأكيد عدد التكرارات التي تمت إزالتها.

الأسئلة الشائعة

لا، فهو يقوم بتجزئة الصفوف التي تم تحليلها بالكامل. للحصول على تفرد عمود واحد، قم بتضييق ملف CSV وصولاً إلى هذا العمود أولاً باستخدام أداة استخراج الأعمدة، ثم قم بتشغيل أداة إزالة التكرارات.

التواجد الأول في الملف . قم بفرز ملف CSV مسبقًا إذا كنت تريد فوز نسخة معينة (أحدث سجل، أدنى معرف، وما إلى ذلك).

نعم. يتم تحليل الصفوف باستخدام قواعد CSV القياسية، لذلك يبقى "Jane, Smith" خلية واحدة ويتم مقارنته على هذا النحو.

يتم إرسال ملف CSV إلى خادمنا لحساب إزالة التكرارات. ولا يتم تخزينه أو مشاركته، ولا تتم إضافته إلى رابط الصفحة.

أدوات ذات صلة

محول MP4 إلى MP3

اسحب مسار الصوت من فيديو MP4 واحفظه كملف MP3. رائع لمقاطع الموسيقى والبودكاست والمحاضرات والمقاطع الصوتية التي تريد الاستماع إليها في أي مكان.

مولّد بيانات اختبار SQL

أنشئ عبارات SQL INSERT جاهزة للتشغيل بصفوف عيّنات متسلسلة (id, name, email, active) لأي اسم جدول. حتى 200 صف، صيغة MySQL، بنقرة واحدة.

محول MOBI إلى EPUB

حول كتب MOBI الإلكترونية إلى EPUB، المعيار المفتوح الذي تقرأه Apple Books وKobo وGoogle Play Books ومعظم التطبيقات الحديثة. ارفع ملف .mobi ونزل ملف .epub نظيفا.

تحويل JSON إلى Excel

حوّل ملف JSON إلى ملف Excel XLSX حقيقي يحتوي على أعمدة مُحددة النوع، وأوراق متعددة للمصفوفات المتداخلة، بالإضافة إلى تنسيقات تواريخ مدمجة.

محول OGG إلى MP3

حول ملفات صوت OGG (Vorbis) إلى MP3 لتوافق واسع مع الهواتف والسيارات وتطبيقات الموسيقى والأجهزة التي لا تدعم صيغة OGG.

محول Excel إلى JSON

حوّل أوراق XLSX أو XLS إلى JSON داخل متصفحك. اختر الأوراق والبنية والمفاتيح وقواعد القيم من دون رفع الملف.

الأداة متاحة بلغات أخرى