Как сделать проверку домена на сайте?

Элементарно, Ватсон!
При помощи утилиты whois.

Например, на php: exec('google.com');

опечатка, надо так:
exec('whois google.com');

И что это?)

То что вы спросили о проверке домена на своем сайте на PHP выглядит как то так:
$_my_domen = 'site.ru';
if($_SERVER['HTTP_HOST'] != $_my_domen) {
header("HTTP/1.1 301 Moved Permanently");
header("Location: http://{$_my_domen}");
exit;
}
т.е. если ваш сайт попытаются запустить на другом домене последует редирект на ваш домен...

Вопрос видимо неправильно сформулирован - нужен скрипт проверки домена на занятость, их много везде раздают, погуглите - найдете и оформите, если умеете.