Есть ли способ скопировать с проверкой или просто проверить скопированные данные

25136
Michael Stimson

Я - специалист по ГИС, частью этого является регулярное копирование огромных объемов данных на диск - резервное копирование, архивирование и доставка. Иногда файлы на другом диске не совпадают с исходным диском, в порядке для каждого скопированного 4TB будет одна ошибка в одном файле (это 0,000000025%).

В настоящее время я использую RoboCopy или Windows Explorer copy, чтобы дублировать файлы на другие диски, и WinDiff, чтобы проверить их содержимое, поэтому я знаю, что вероятность ошибок очень мала. Этот процесс работает, но WinDiff работает медленно, иногда требуется больше времени для проверки, чем для первоначального копирования; RoboCopy не имеет переключателя проверки и проверки типа XCopy.

Ранее я использовал XCopy с ключом / v, но мне сообщили, что эта утилита устарела в Windows 7, и я не должен ее использовать. Индивидуальное создание MD5, контрольной суммы или хеша файлов не вариант, если нет эффективной библиотеки / метода / алгоритма, которую я могу реализовать на языке программирования, так как было бы сотни тысяч отдельных файлов.

Возникает вопрос: Есть ли способ, который будет проверять файлы, как они копируются или лучше, чем программа проверки WinDiff, или даже еще лучше гарантированный способ скопировать эти файлы с целостностью 100%, так что я не должен их проверить?

Я могу написать код для C # / VB.net / C ++ / Python / DOS Batch при условии, что необходимые библиотеки бесплатны или встроены. Меня не пугает командная строка, я могу вспомнить, когда была только командная строка, поэтому утилиты / инструкции для DOS в порядке.

Так почему же это проблема, если у меня есть метод работы? Это не совсем, у меня есть рабочий метод, но я делал это так же, как Windows NT в конце 90-х; в конце 90-х это были ленты Exabyte и 100 МБ или меньше, тогда был оптический носитель, который можно было проверить менее чем за полчаса. Теперь, когда носители имеют большую емкость и относительно недороги, я обнаружил, что копирую и проверяю до 16 ТБ для одной доставки, а время проверки превышает дату доставки ... Мне нужно, по крайней мере, искать лучший способ !

6
ВСЕ о компьютерах устарело, на этом сайте все еще есть вопросы о том, что файлы ISO записаны на CD правильно! Когда вы в последний раз писали компакт-диск? Как насчет того, чтобы вместо того, чтобы голосовать «вниз», вы говорите мне, как сделать это только с Windows, не прибегая к стороннему программному обеспечению. Michael Stimson 9 лет назад 0
Все, что вам нужно сделать, это перефразировать это внимательно. Вместо того, чтобы спрашивать «программное обеспечение», укажите только то, что вам нужно выполнить, если это изменения в системе, или встроенные инструменты, или часть программного обеспечения, которая делает это, тогда ответ будет таким же. Также http://softwarerecs.stackexchange.com/ будет местом для прямого запроса программного обеспечения. Psycogeek 9 лет назад 0
Мне очень нравится TeraCopy для этого. ChrisInEdmonton 9 лет назад 0

2 ответа на вопрос

5
redbox

The program you've been looking for is xxcopy. I too had this desire to do a binary file compare when copying oh, a few hundred thousand files for forensic analysis. I didn't care it took a little longer, I didn't want to have to create a SFV or MD5 file and then run another program on the files afterward, I wanted something that did the DOS "fc" command on the fly.

http://xxcopy.com/xxtb_027.htm#tag_319

You want switch /V2

Have a good day.

Спасибо, я попробую, когда вернусь из отпуска. Michael Stimson 9 лет назад 0
К сожалению, компания прекратила торговать. wwkudu 6 лет назад 0
@wwkudu Это правда, но бесплатная версия по-прежнему доступна на вкладке загрузки на их сайте на сегодняшний день. mbmast 6 лет назад 0
2
Psycogeek

Я годами использовал Fastcopy и terracopy в окнах, каждый из которых хорошо заменяет методы вставки и копирования, оба имеют процедуру сравнения. Я думаю, что кто-то сказал, что метод сравнения для fastcopy - "лучший" метод. Оба они уловили очень незначительные ошибки, которые я сам вызвал из-за неправильной синхронизации оперативной памяти.

Существуют и другие отличия, которые делают FC и TC 2 совершенно разными актерскими программами, лучше испытать и откорректировать варианты обоих, чтобы иметь возможность их понять. Как и на ходах, ФК будет проверять каждый элемент перед удалением по одному ходу. ТС может быть легко настроен для сравнения всего как второго действия, так и повторного действия. У TC могут быть проблемы с сетевыми дисками, меньше людей имеют проблемы с FC при использовании сетевых дисков.

Я предпочитаю использовать FC, но что-то вроде одной ошибки в FC может потребовать больше усилий, так как TC, имеющий все элементы в списке и отображаемый список, всегда имеет свои преимущества. Они обе являются программами в стиле GUI, а не в стиле CMD, хотя они оба будут работать в командной строке или в пакетном режиме.
Оба могут обеспечить лучшую последовательность данных, ожидая, пока одна операция копирования не будет завершена, перед началом другой операции, поэтому создание фрагментированных беспорядков на дисках сокращается.

Ни один из них не делает "исправление тех последних нескольких файлов", которые не копируются правильно, как Windiff.exe, поэтому windiff был намного лучше, когда все терпит неудачу :-)

Оба будут интегрированы прямо в систему в качестве замены для копии Windows, а также интегрируются в контекстное меню правой кнопкой мыши. Оба могут также работать как полностью переносимые. Мне больше не нужно заменять системную копию, они есть в контекстном меню, чтобы использовать их по своему усмотрению.

Заключение, попробуйте оба, посмотрите, что вы думаете.

Спасибо, психогик. Я дам им попытку. Может быть, у вас есть ссылки на них? Michael Stimson 9 лет назад 0
http://www.majorgeeks.com/files/details/teracopy.html & http://www.majorgeeks.com/files/details/fastcopy.html должны иметь законные незаполненные загрузки их сегодня, если вы не попали не в ту сторону кнопок. Psycogeek 9 лет назад 0
О, кстати, что такое ГИС? Psycogeek 9 лет назад 0
Геопространственные информационные системы. Смотрите http://gis.stackexchange.com/. Я имею дело с данными, которые имеют пространственную составляющую, например карту, но умнее. Большие файлы представляют собой данные LiDAR (бортовая лазерная визуализация) и растры размером более 100 ГБ, каждый из которых получен из бортовых данных LiDAR. Michael Stimson 9 лет назад 0
Вероятно, я не должен комментировать это здесь ... но я все равно это сделаю. Я искал "инструмент копирования и проверки", и этот ответ появился в Google. Угадай, что я копировал ... TIFS и данные LiDAR! Andrei 6 лет назад 0