Двоичные файлы для Ubuntu 12.04 x86 могут работать ( может, не будет ); но если они этого не делают, это из-за связи с библиотеками, которые изменились несовместимо между 2010 и 2012.
Пространство пользователей CentOS / Red Hat Enterprise Linux серии 6.x основано на Fedora 12 с конца 2009 года по начало 2010 года. Ubuntu 12.04 была выпущена в апреле 2012 года, при этом большинство ее библиотек используют версии, выпущенные в конце 2011 года. Таким образом, между CentOS 6.x и Ubuntu 12.x есть примерно 24-30 месяцев разработки.
Если что-то в glibc(или libstdc++особенно) сильно изменилось с тех пор, Clang или что-либо на основе LLVM не будет работать, если это было скомпилировано для Ubuntu 12.04 и запущено на CentOS 6.x.
Я не могу сказать наверняка, потому что я не проверял это.
Вместо этого вам следует либо скомпилировать LLVM и Clang самостоятельно в CentOS 6.3, либо искать репозиторий, в котором поставляются двоичные файлы Clang для CentOS, например ELRepo .