Керн терьеры принадлежат к потомкам старых шотландских охотничьих терьеров и считается древнейшим представителем этой породы.

Порода возникла на Западном высокогорье (Вест - Хайленд) и на островах, особенно на Скай, где предки Керн терьеров использовались в качестве охотничьих собак. Одно из самых ранних упоминаний об использовании этих животных, пригодных для охоты, принадлежит епископу Росскому Джону Леслею и относится к 1436г. Он описывает собак низкого роста, которые пробираются в подземные норы и другие укромные убежища и убивают там лис, барсуков, куниц и диких кошек. Таким образом эти животные были известны как постоянные спутники егерей, охотников, лесников и использовались в начале лишь как охотничьи. К сожалению эти люди не оставили никаких записей, которые могли бы содержать точное описание породы.

В источниках конца 18 - начала 19 в.в., эти собаки описываются как длинные в спине, с короткими лапами и лисьим выражением. Их шерстяной покров был в основном или жесткошерстным (раухар) или по типу дратхара.

Их вес был почти одинаковым (5-6,5 кг), но по окрасу они сильно различались. Все собаки были бесстрашными, хорошо охотились на хищников, но в то же время отличались приветливым характером и дружелюбием по отношению к человеку.

В 1874 г. появилась первая книга Кеннел Клуба, посвященная  породе керн терьер.

Прослеживаемая история этих шотландских терьеров начинается с 1870г., когда д-р Ван Беет решил основать питомник терьеров. Он был так очарован бесстрашием и смелостью этих собак, что решил разводить их как породу. Эта старая порода охотничьих терьеров не имела названия, но т.к. многие из этих собак были родом с острова Скай, Ван Беет решил назвать их "короткошёрстными скаями". Даже после того, как керн-шотландский, вест - хейлендский белый и Скай - терьеры были признаны самостоятельными породами, их ещё долгое время скрещивали между собой. Так что совсем не удивительно, что отцом первого чемпиона, кобеля Джесто был вест - хейлендский белый терьер"Ситанах Блэн". И только в 1924г. Кеннел Клуб запретил скрещивание керн терьера и вест-хайлендских терьеров в Англии, следуя примеру американского Кеннел Клуба. Не смотря на это, до сих пор появляются щенки керн терьеров с белыми пятнами - проблема, с которой владельцы керн терьеров должны будут встречаться ещё некоторое время.

В 1910г. короткошёрстный Скай - терьеры были переименованы в Керн терьеров. Это название взято из кельтского языка, и переводиться как "камень" или "груда камней". Это же название носят каменные обелиски на древних могилах кельтских и шотландских вождей. Таким образом, в названии отразились три особенности этой породы: пригодность к охоте в каменных россыпях и расщелинах скал, незаметность на фоне этого ландшафта благодаря удивительной цветовой гамме окраса, самобытность и твердость характера настоящего вождя клана. В 1912г.  порода керн терьер была признана официально.