Перейти к содержимому

Метка deduplication

Подборка 110 вопросов с тегом «deduplication» на WikiRoot: ответы IT-специалистов по Windows, Linux, Excel, сетям и программированию.

110 вопросов

-5 голосов
0 ответов
429 просмотров

Exagrid с диском 9 ТБ. Он показывает как полный, и только показывает бесплатно 2,8 ТБ

У меня есть устройство резервного копирования Exagrid EX5000 с накопителем на 9 ТБ, и оно заполняется ; когда я иду на общий диск, он показывает только 2,8 ТБ свободного места. Я и...

2 голоса
0 ответов
1 136 просмотров

Дельта на месте пишет из трубы

Я ищу способ перезаписать только те части файла, которые отличаются от того, что должно быть записано в него, чтобы файл был изменен с наименьшим количеством записей на диск. Мой п...

0 голосов
1 ответ
369 просмотров

Скрипт для дедупликации файлов и папок с определенным суффиксом

Ответ: Вот один скрипт, который работает и достаточно эффективен. Обратите внимание, что для работы требуется ровно один пробел до «(1)», а после - ни один. #!/usr/bin/bash IFS=$'\n'; set...

1 голос
2 ответа
647 просмотров

Как объединить дубликаты папок со структурой «имя (1)», «имя (1) (1)» и т. Д.

Ответ: Ниже приведен скрипт bash, который выполняет эту задачу. Работает, например, на MSYS2 Bash с добавленным rsync. Это взято из этого связанного вопроса здесь: Скрипт для дедупликации...

0 голосов
2 ответа
627 просмотров

Есть ли способ резервного копирования дедуплицированного диска NTFS с помощью rsync или другого инструмента linux?

Ответ: Если ваша цель - выполнять резервное копирование, не тратя пространство на дубликаты файлов, рассмотрите возможность резервного копирования на другой дедуплицированный диск на друг...

1 голос
0 ответов
332 просмотра

Удалить файлы в каталоге B, которые также существуют в каталоге A

На этой странице рассказывается, как удалить файлы в каталоге B, которые также существуют в каталоге A. Я хочу использовать решение для Windows, но без копирования. Может кто-нибуд...

0 голосов
1 ответ
384 просмотра

rsync заменяет только соответствующие файлы жесткими ссылками

Ответ: Я думаю, что вы хотите, программа, как fslint, fdupes, duff, rdfindнайти дубликаты, а затем освободить дублированный дисковое пространство со ссылками. Вы можете взять список дубли...

0 голосов
0 ответов
545 просмотров

Как найти «номер редакции» и соответствующую версию Windows для чтения файлов со старого дедуплицированного диска?

У меня есть диск, который оторвался от мертвого сервера. Это явно дедуплицировано - классические ошибки 1305, 80070519 и «плохая ревизия», когда я пытаюсь скопировать файлы, показы...

1 голос
1 ответ
596 просмотров

(Win Server 2012 R2) Невозможно включить дедупликацию данных

Ответ: Я удалил и повторно добавил роли / функции Hyper-V и Data Deduplication, и это, похоже, исправило проблему. Я не уверен, почему или что произошло, но я полагаю, что некоторые настр...

0 голосов
1 ответ
1 428 просмотров

Удалить дубликаты изображений с разными именами файлов

Ответ: Я нашел приложение, которое делает это; это называется VisiPics: http://www.visipics.info/ VisiPics делает больше, чем просто ищет идентичные файлы, он выходит за рамки контрольных...

0 голосов
1 ответ
411 просмотров

Как найти файлы, которые являются дубликатами файлов в определенной папке?

Ответ: Предполагая dir1, что путь, который вы хотите найти и dir2быть определенная папка : find dir1 -not -path "dir2/*" | grep -F -f <(ls -1 dir2) | parallel rm или, если только у вас...

0 голосов
1 ответ
1 008 просмотров

Как резервное копирование Borg справляется с дедупликацией и шифрованием данных?

Ответ: Борг хранит локальный кеш контрольных сумм (кусков) данных, зарезервированных. С этим можно ознакомиться до шифрования, что делает решение о дедупликации клиентской функцией, на ко...

1 голос
1 ответ
704 просмотра

Найти дубликаты хэшей

Ответ: Вот команда Powershell, которая хэширует все ваши файлы (в заданном каталоге) и выводит результат в файл CSV. Get-FileHash -Algorithm MD5 -Path (Get-ChildItem "\\Path\to\files\*.*"...

0 голосов
1 ответ
720 просмотров

Как исключить / игнорировать определенные типы / расширения файлов с помощью rmlint?

Ответ: Попробуйте использовать утилиту "find", чтобы исключить эти файлы, а затем передайте результат в rmlint: $ find /target/dir -type f ! -name '*.nib' ! -name '*.icon' ! -name '*.plis...

1 голос
3 ответа
1 055 просмотров

Найти и удалить дубликаты файлов на разных дисках и в каталогах

Ответ: Предполагая, что вы можете использовать Windows в качестве ОС для всего процесса и вам не нравится Free Duplicate File Finder (никогда не пробовал, но нашел его здесь упомянутым ),...

4 голоса
1 ответ
2 424 просмотра

ZFS на Linux сжатие и порядок дедупликации

Ответ: Получается, что http://docs.oracle.com/cd/E36784_01/html/E36835/gkknx.html прав. Когда файл записывается, данные сжимаются, шифруются, и контрольная сумма проверяется. Затем данные...

0 голосов
1 ответ
371 просмотр

Удаление дубликатов из 1 столбца, связанного с именем в нескольких строках

Ответ: Используйте команду «Удалить дубликаты» на вкладке «Данные» и убедитесь, что у моих данных есть заголовки в разделе «Столбцы», проверьте только 2 столбца: ФИО Событие затем Ok удал...

0 голосов
0 ответов
471 просмотр

Удаление ответов в загруженных электронных письмах (т.е. непоследовательных повторяющихся предложений из текстового файла)

Привет, эксперты и сокурсники! У меня есть десятки текстовых файлов, которые содержат ежемесячные архивы рассылки. Я пытаюсь удалить / удалить цитируемые ответы, чтобы каждое сообщ...

0 голосов
1 ответ
1 269 просмотров

(Win Server 2012) Невозможно включить дедупликацию данных на диске C:

Ответ: Дедупликация данных не поддерживается на загрузочных или системных дисках: Дедупликация была построена для томов данных NTFS и не поддерживает загрузочные или системные диски Введе...

0 голосов
1 ответ
424 просмотра

У меня есть ситуация, когда дедупликация данных в Server 2012 повредила метаданные - как я могу скопировать эти файлы из старого репозитория?

Ответ: Ниже работает довольно хорошо; Get-ChildItem -Recurse -File | Where-Object { $_.Attributes -match "ReparsePoint" } | Foreach-Object { $currentFileName = $_.FullName $oldFileName =...

1 голос
1 ответ
1 588 просмотров

Пакетно отсортировать файл с удалением дубликатов строки?

Ответ: Пакетно отсортировать файл с удалением дубликатов строки? Ниже приведен пакетный скрипт для Windows, как вы и просили, чтобы выполнить эту задачу; просто установите ваши входные и...

2 голоса
1 ответ
1 342 просмотра

Как уменьшить использование памяти после установки dedup = off (после ее включения на некоторое время)?

Ответ: Если предположить, что ваши проблемы связаны с дедупликацией, это не очень поможет, поскольку только новые данные не дублируются, старые данные остаются дедуплицированными и таблиц...

4 голоса
4 ответа
7 475 просмотров

Есть ли способ извлечь дубликаты строк в Sublime Text?

Ответ: Вы можете легко найти повторяющиеся строки, выполнив Sort Linesзатем поиск по этому регулярному выражению, в котором используются маркеры границы строк ^и $обратная ссылка \1. ^(.+...

2 голоса
2 ответа
448 просмотров

Оптимизация сжатых файлов для дедупликации на уровне блоков

Ответ: Отвечая на первую половину моего вопроса о том, как: вырезать штамп даты / имени файла gzip. нет, я еще не нашел готовый кусок кода, но я нашел время для установки vbindiff, визуал...

0 голосов
0 ответов
608 просмотров

Включить дедупликацию для одной папки?

Можно ли включить дедупликацию для одной папки (и подпапок), а не для всего тома? Примечание: я использую Windows 10 1607 с установленным модулем дедупликации.

1 голос
0 ответов
482 просмотра

Как пакетно удалить файлы на основе их контрольной суммы, совпадающей с существующим списком контрольных сумм

Я ищу способ удаления файлов на основе их контрольной суммы, совпадающей со списком ранее увиденных контрольных сумм в текстовом файле или каким-либо другим списком. Контекст предс...

0 голосов
1 ответ
411 просмотров

Удаление дубликатов из текстового файла

Ответ: Я думаю, что проблема здесь в том, что в Excel есть ограничение в 1 048 576 строк, а в вашем наборе данных 13 миллионов записей. Каждая запись должна быть на отдельной строке. Если...