Эт овсего лишь особенности языка. Если бы можно было говорить "ближневосточец" или "грузинец" - так бы и говорили. Но эти слова считаются некорректными. Некорректными филологически. Но по смыслу - это то же, что и "уроженец Ближнего Востока" и "уроженец Грузии", вне зависимости от расовой или наиональной принадлежности. Армянин может быть уроженцем Турции и даже (представьте себе) уроженцем Азербайжана, так же как и турок может быть уроженцем Армении. При чем тут национальность или раса?
Точно так же "кавказец" - уроженец Кавказа. Тут не играет роли страна/империя/география. Географически можно назвать русского уральцем, алтайцем, забайкальцем также как и екатеринбуржцем, барнаульцем, читинцем. И все это не будет противоречить "россиянину".
А вот называть кавказцем кавказскую овчарку - это неверно не только филологически, но и по смыслу. Это просто жаргон. Укороченное название.