синхронизация распределенных автономных архивов с большими файлами на внешних дисках

188
BeniBela

У меня есть несколько файлов мультимедиа (скажем, 500 файлов по 500 МБ каждый, хотя некоторые намного меньше, а некоторые больше), которые я не могу сохранить на своем компьютере, потому что жесткий диск слишком мал, поэтому я хочу сохранить их на внешний диск.

Я мог бы просто переместить все на один диск, но это может привести к потере всего в случае отказа диска. Поэтому должно быть несколько дисков, которые синхронизируются друг с другом. Синхронизация должна обеспечивать взаимозаменяемость дисков, добавление одного файла на один диск должно добавлять его на другой диск, а удаление одного файла на одном диске должно удалять его на другом, независимо от того, какой из них является одним, а какой - другим, поскольку Иногда я использую несколько компьютеров, каждый из которых подключен к своему внешнему диску, и я не хочу переносить какой-либо мастер-диск между компьютерами. Таким образом, инструмент синхронизации должен хранить историю метаданных файлов, которые записывают, какие файлы являются новыми и какие файлы были удалены. Он также должен отслеживать переименование, поэтому он не копирует переименованный файл полностью,

История также может сделать резервные копии более надежными, если она имеет хэш для каждого файла, она может проверить, не поврежден ли файл или не поврежден ли он из-за проблем с диском. И я мог посмотреть, когда файл был добавлен или последний раз изменен более надежно, чем метка времени файловой системы.

Сейчас я ищу такой инструмент синхронизации. (В настоящее время я использую только Linux, но, возможно, однажды я использую другую ОС?)

Некоторые инструменты, которые не подходят, но приближаются:

  • rsync: он не хранит историю.

  • унисон: он хранит историю, но находится на синхронизирующем компьютере, а не с данными. Если я синхронизирую их на новом компьютере, нужно будет все заново сканировать. И он использует парные базы данных, если на m компьютерах имеется n зеркал, он будет хранить m n² историй (или просто mn со звездообразной топологией, но затем ему снова понадобится главный диск). Также кажется, что база данных не рассчитана на долгосрочное использование, более новая версия unison может получить новый формат базы данных, который затем должен будет повторно сканировать все, и я не могу искать через 10 лет, когда я добавляю какой файл больше.

  • контроль версий, git, hg, svn, gut, boar: файлы слишком велики, чтобы хранить историю всего. Кроме того, у меня есть важные и неважные файлы в коллекции, когда у меня заканчивается свободное место, я скорее удаляю неважные файлы навсегда, чем покупая большой диск.

  • bup, git application: они удаляют файлы из файловой системы, чтобы сохранить их в собственной файловой системе на основе git. Это затрудняет доступ к ним, и я предпочитаю решение, которое сохраняет файлы такими, какие они есть, и просто добавляет метаданные, необходимые для отслеживания изменений.

  • git-media: кажется, в основном сделано для того, чтобы обойти ограничение размера файла в git

  • Dropbox Google Drive: не в сети

  • owncloud: Кажется, это основано на постоянно работающем центральном сервере, а не на куче одинаковых жестких дисков.

  • синхронизация: кажется, работает постоянно и синхронизировать все сразу между компьютерами. Я хочу выполнять синхронизацию локально, время от времени, как при подключении обоих внешних дисков к одному компьютеру, и синхронизировать их затем один раз в месяц

  • sparkleshare: кажется, не для больших файлов

1
Несколько внешних накопителей на нескольких устройствах и активная синхронизация противоречат друг другу. Я говорю: всегда используйте один мастер в репозитории на устаревшем оборудовании, а затем используйте что-то вроде resilio sync для загрузки и извлечения файлов. Но это не создает избыточности как таковой, потому что, если вы запутались или у вас возникли проблемы, вы можете легко потерять данные. Вам все еще нужна отдельная резервная копия, которая синхронизируется в одну сторону. Предприятия используют правило 3-2-1 как типичный МИНИМАЛЬНЫЙ. Damon 6 лет назад 0
Я не использую это достаточно часто, чтобы оправдать выделенное оборудование для этого. Как в среднем раз в неделю. Это должно предотвратить большинство глюков с историей. Как Git. Вам не нужно бояться случайно испортить Git-репозиторий. (инструмент синхронизации может перемещать удаленные файлы в трэш-папку, чтобы разрешить отмену последней синхронизации). Я мог подвезти мою маму в другом штате, но тогда я мог синхронизироваться с ней только один раз в год. BeniBela 6 лет назад 0
FreeFileSync, Resilio Sync Damon 6 лет назад 0
FreeFileSync, по крайней мере, сохраняет базу данных отслеживания изменений в нужной папке, но не хранит хеши всех файлов для обнаружения повреждений. Resilio, похоже, предназначен для постоянной фоновой синхронизации между устройствами, а не для периодической синхронизации между дисками. BeniBela 6 лет назад 0

0 ответов на вопрос

Похожие вопросы