Блог — это разновидность сайта. Частный случай, так сказать. Плюс, блог в некоторых ситуациях может являться лишь частью сайта.
Сайт — более широкое понятие, включающее в себя любые интернет-ресурсы: от домашней странички до поисковой системы, социальной сети или информационного портала.
Блог — это личный дневник в интернете (на профессиональную или личную тематику). Бывают правда еще и корпоративные блоги (как, например, на этом сайте), но это уже другая история.