Да, вы можете удалить файл .deb. Это то же самое, что установка программы из windows - вы можете безопасно удалить установщик. Ubuntu следит за тем, как удалить программу в отдельном месте, поэтому .deb больше не нужен.
Каталог git, вероятно, все еще занимает место вместе с тем, что было загружено до того, как вы его отменили Вы можете безопасно удалить его. Он будет называться так, как назывался твой репо.