Радзіўся Яўхім Карскі ў сям'і настаўніка пачатковае школы вёскі Лаша, Горадзенскага павету. Год ягонага нараджэньня ў біяграфічных даведках даецца як 1860 або 1861. Два розныя гады паўстаюць у залежнасьці ад каляндарнага стылю, паводле якога азначаецца дзень нараджэнытя Карскага. Па старым юльянскім каляндары радзіўся ён у 1860 годзе, 20 сьнежня. Па новым-жа дата нараджэньня прыпадае на 1 студзеня 1861 году.
Па нацыянальнасьці бацькі былі беларусамі, што відаць з пазьнейшай зацемкі самога Карскага пра тое, што ён «прыродны беларус». Гадаваўся Яўхім Карскі ў вельмі вялікай сям'і, у якой самых дзяцей было васьмёра. Пачатковую навуку атрымаў у Ятранскай народнай школе ў Наваградзкім павеце. Сярэднюю асьвету здабываў у Менскай духоўнай сэмінарыі, дзе вучыўся 10 гадоў, аж да яе сканчэньня ў 1881 годзе.
У тым-жа 1881 годзе Яўхім Карскі паступае на Нежынскі гістарычна-філялягічны Інстытут у Чарнігаўшчыне. Студыюе тамка філялёгію пад кіраўніцтвам славісты-моваведа прафэсара Р. Ф. Брандта. Канчае Інстытут вясною 1885 году й на 8 гадоў пераяжджае ў Вільно на пасаду настаўніка царкоўнаславянскае й расейскае мовы ў тамашняй гімназіі.
Першую крытычную зацемку Карскі друкаваў яшчэ ў 1889 г. будучы студэнтам. Першыя фальклёрныя запісы «Белорусские песни села Берёзовца Новогрудского уезда Минской губернии» публікуе ён у наступным годзе. А яшчэ за год, у 1885 годзе, друкуецца й ягоная першая арыгінальная навуковая праца «Обзор звуков и форм белорусской речи». Гэта кніжка значнага памеру, 170 бачынаў друку. У ей у завязцы тая тэма, над якою Карскі праз усё сваё жыцьцё працаваў, дый зь якое пазьней вырасьлі ягоныя манумэнтальныя «Беларусы». Зьвярнуць трэба ўвагу на факт, што ў часе публікацыі першае навуковае працы Карскаму было ўсяго 24 гады дый ён толькі канчаў свае вышэйшыя студыі. Сьветчыць гэта аб не малых здольнасьцях маладога вучонага, ягонай працавітасьці, дый таксама добрай філялягічнай школе прафэсара Брандта.
Пачатае навуковае працы Карскі не спыняе й у гады настаўніцтва ў віленскай гімназіі. У 1890 г. у «Русском филологическом вестнике» пачынае друкавацца праца Карскага «К истории звуков и форм белорусской речи». 17.9.1891 г. пры гістарычна-філялягічным факультэце Варшаўскага ўнівэрсытэту ён складае магістэрскі экзамін. На Варшаўскім унівэрсытэце тады былі лекці прафэсараў А.І. Сьмірнова (рэдактара РФВ), ПК. Ульянава, А. С. Будзіловіча (у Будзіловіча Карскі складаў экзаміны па сваёй спэцыяльнасьці), К. Я. Грота й І. Первольфа. Праз два гады 24.10.1893 г. на магістэрскім дыспуце абараняе свае дзьве вышэй успомненыя працы аб беларускай мове дый дастае навуковую ступень магістра ў галіне расейскай мовы й літаратуры.
У тым-жа годзе Карскі пераносіцца ў Варшаву для працы пры тамашнім унівэрсытэце, спачатку ў характары лектара, а ад 26.6.1894 г. экстраардынарным прафэсарам расейскай дый царкоўнаславянскай моваў і расейскай літаратуры, ад 1897 ардынарны прафэсар (пасьля дактарату).
Зразу-ж ён рыхтуе й сваю дакторскую дысэртацыю, таксама ў галіне беларускае мовы. Гэта праца значных памераў — 444 бачынаў друку — пад назовам «Западнорусские переводы псалтыри XV–XVI веков», Варшава 1896 г. Дактарат ён робіць пры Маскоўскім унівэрсытэце, на якім 9.11.1896 г. адбываецца дакторскі дыспут Карскага, у выніку якога 14.12.1896 г. яму прызнаецца навуковая ступень доктара.
І па закругленьні дактаратам свае вышэйшае асьветы Карскі ўвесь час працуе шмат навукова й пераважна ў галіне беларусаведы. Зімою, у часе ўнівэрсытэцкіх заняткаў, ён працуе над рукапісамі й старадрукамі па бібліятэках, або вывучае беларускія этнаграфічныя зборнікі й матар'ялы, летам жа звычайна выяжджае ў паасобныя мясцовасьці Беларусі для беспасярэдняга знаямленьня зь беларускаю народнаю мовай дый для запісваньня беларускай народнай творчасьці, звычаяў, абрадаў.
У гадох 1899–1900 яму даюцца навуковыя камандыроўкі ў Горадзенскую, Віленскую дый Менскую губэрніі для вывучэньня дыялектаў. У тым-жа годзе Карскага пасылаюць у Сэрбію, Баўгарыю, Турцыю для студыяў над рукапісамі й старадрукамі ў тамашніх бібліятэках. У 1903 г. з даручэньня Расейскага Імпэратарскага Геаграфічнага Таварыства, а на матар'яльную дапамогу віленскага генэрал-губэрнатара князя Сьвятаполк-Мірскага ў вышыні 500 рублёў, Карскі робе аб'езд усяе беларускае этнаграфічнае тэрыторыі для ўстанаўленьня велічыні дый межаў беларускага моўнага прастору й зьбіраньня моўнага й фальклёрнага матар'ялу. У гэтым-жа годзе выходзіць з друку першы том ягонай капітальнай працы «Беларусы» з этнаграфічнаю дый дыялектычнаю картамі Беларусі. Дваццаць гадоў часу Карскаму займае напісаньне й друкаваньне далейшых 6 кнігаў гэтае манумэнтальнае беларусаведнае манаграфіі, апошняя кніга якое выйшла з друку ў 1922 годзе.
З пачаткам 1905 году Карскі абыймае рэдактарства варшаўскага «Русского филологического вестника», часапісу, што сыграў важную ролю ў разьвіцьці расейскае моваведы, а адначасна не малую й у галіне моваведы беларускай. У гэтым часопісе Карскі друкуе шмат сваіх працаў аб беларускай мове, памяшчае ў ім дасланыя моваведныя беларускія матар'ялы, вядзе ў ім багаты аддзел рэцэнзыяў. «Русский филологический вестник» Карскі рэдагуе аж да часу спыненьня яго выхаду ў 1917 годзе. У 1905 годзе Карскага выбіраюць рэктарам Варшаўскага ўнівэрсытэту. На гэтым становішчы ён застаецца да 1910 году, калі сам рэктарства зракаецца.
У сувязі з ходам падзеяў I Сусьветнай Вайны ў 1915 годзе Карскі разам з Варшаўскім унівэрсытэтам эвакууецца з Варшавы да Растова на Доне, дзе чытае яшчэ ўнівэрсытэцкія лекцыі да вясны наступнага году. 8.X. 1916 г. у выніку рэкамэндацыяў Шахматава, Сабалеўскага, Перэца й Катлярэўскага Карскі быў выбраны ў акадэмікі Расейскае Імпэратарскае Акадэміі Навук. У сваей рэкамэндацыйнай запісцы Шахматаў называе Карскага «заснавальнікам беларускае моваведы й беларускае філялёгіі».
Навуковая дзейнасьць Карскага ў далейшых гадох, аж да ягонай сьмерці, даволі цесна зьвязаная з працаю ў Расейскай Акадэміі, перайменаваную пазьней на АН СССР, у якой ён працуе як сябра ўправы прэзыдыюму, дырэктарам музэю этнаграфіі й антрапалёгіі, старшынёю слоўнікавае камісіі дый камісіі па расейскай мове, рэдактарам «Известий Отделения Русского языка и Словесности АН СССР». Стае ён адначасна й прафэсарам Ленінградзкага ўнівэрсытэту, на якім выкладае да 1928 году.
У гадох 1917–1921 Карскі часта бывае ў Менску, а нават Вільні, дый мае беспасярэдні сутык зь беларускім культурна-нацыянальным жыцьцём і беларускімі палітычнымі правадырамі. З заломам царскага рэжыму ў 1917 годзе дый ажыўленьнем беларускае палітычна-нацыянальнае дзейнасьці ў сувязі з рыхтаваньнем да Ўсебеларускага Кангрэсу ў Менску, Карскі перапрацоўвае нанава сваю «Этнаграфічную карту беларускага племені». Быў Карскі ўдзельнікам і Ўсебеларускага Кангрэсу ў сьнежні 1917 году, на якім чытаў свае лекцыі пра этнаграфічна-моўны прастор Беларусі, яго межы, пра беларускую мову й літаратуру. Дэлегаты Ўсебеларускага Кангрэсу прызналі й ушанавалі навуковы беларусаведны аўтарытэт Яўхіма Карскага выбарам яго ў ганаровыя старшыні прэзыдыюму Кангрэсу. Палітычна на Кангрэсе ён хінуўся ў бок г. зв. абласьнікоў.
У гадох 1919–1920 Карскі друкуе ў беларускім перакладзе колькі дзесяткоў артыкулаў, пераважна з гісторыі беларускае літаратуры старое й новае, у менскіх беларускіх часапісах і газэтах «Беларусь», «Звон», «Рунь», «Вольны сьцяг». У верасьні 1919 году ў Вільні ён чытае слухачом беларускіх настаўніцкіх курсаў лекцыю пра беларускую мову, падчас якое трактуе яе як раўнапраўную іншым мовам, а не як дыялект, «нарэчча», у адваротнасьць таму, як пісаў ён звычайна ў сваіх публікацыях.
Выяўляе гэтым-жа часам Карскі й значную актыўнасьць у справе арганізаваньня ў Менску ўнівэрсытэту. Пра патрэбу ўнівэрсытэту ў Беларусі, якую царскі ўрад трымаў без аніводнае вышэйшае навуковае ўстановы ад паловы XIX ст., Карскі пісаў яшчэ ў маі 1916 году, калі быў у Растове на Доне, значыцца ў пару, калі сам апынуўся бяз катэдры Варшаўскага ўнівэрсытэту. Пра патрэбу ўнівэрсытэту тады ў прадмове да 1-ае кнігі III тому «Беларусаў» Карскі пісаў гэткімі словамі:
Выпускаючы ў сьвет гэты твор, аўтар у меру сваіх сілаў хацеў выявіць сваю пашану да шматпакутнай «Западной Русі», што заўсёды ў першую чаргу церпяліва пераносіць усе нягоды, што выпадалі на долю «русскага народу», але да гэтай пары па злой гіроніі лёсу, а магчыма ў выніку беднасьці й скромнасьці аснаўнога свайго жыхарства, не дастаўшай ніводнае вышэйшае культурна-прасьветнае ўстановы, якая магла-б заняцца ўсебаковым вывучэньнем гэтага забытага й закінутага краю. Якое багатае жніва знайшла-б гэта сабе ўнівэрсытэцкая навука!
Характэрна для тагачаснага палітычнага сьветапогляду Карскага, што ў гэтай заўвазе, хоць Карскі трактуе беларускі народ як частку «русскага народа» дый нават называе яе «Западной Русьсю», аднак-жа адказнымі за неіснаваньне ў Беларусі ніводнае «вышэйшае культурна-прасьветнае ўстановы» ўважае ён не знарочную волю расейскае царскае ўлады дый пануры «русскі народ», як было ў запраўднасьці, а нейкую містычную «злую гіронію лёсу» дый «беднасьць» жыхарства.
У 1918 годзе Карскі да справы ўнівэрсытэту вяртаецца ізноў. З даручэньня ўраду Беларускае Народнее Рэспублікі ён тады апрацоўвае праект статуту беларускага дзяржаўнага ўнівэрсытэту, які тады-ж быў апублікаваны ў «Вольнай Беларусі» разам з другім праектам унівэрсытэту, складзеным прафэсарам Мітрафанам Даўнар-Запольскім. Дый палітычныя падзеі не далі магчымасьцяў ані часу ўраду БНР праектаваны ўнівэрсытэт тады закласьці. На працягу пару год у Менску мяняюцца адна за другою ваенныя акупацыі. Летам 1918 г. Карскі ізноў у Петраградзе. 25.8.1918 г. у часапісе «Чырвоны Шлях» № 3–4 друкуецца ягоны артыкул «Беларусь. Берасьцейская мірная ўмова». Артыкул пачынаецца прыпіскаю «Запіскі старшыні Таварыства Абароны Беларусі». У спакайнейшыя месяцы Карскі чытае свой прыватны курс беларусаведы зацікаўленым. Апрацоўвае і публікуе «Што трэба зрабіць у галіне беларускае мовы й літаратуры». Гэтак было й у 1921 г., калі на пачатку ліпеня Беларускі Дзяржаўны Ўнівэрсытэт адкрываюць у канцы бальшавіцкія ўлады, што тымчасам патрапілі замацавацца на тых беларускіх землях, што пасьля Рыскае ўгоды адыйшлі да Савецкага Саюзу, а з часткі якіх чырвоная Масква выразала колькіпаветавую Беларускую CCR
Агульна было ведама ў Менску, што Карскі, як адзін з выдатнейшых тады навукоўцаў-беларусаведаў, уважаў, што пры закладзінах унівэрсытэту становішча рэктара будзе перададзена яму. Аднак-жа склалася гэтак, што Карскі не знайшоўся й сярод прафэсараў гэтага ўнівэрсытэту, не гаворачы аб рэктарстве. Рэктарам быў назначаны прафэсар Ул. Пічэта. Праўдападобна, галоўнай прычынай непакліканьня на рэктара новаарганізаванага Беларускага Дзяржаўнага Унівэрсытэту было тое, што вырашальныя партыйныя камуністычныя дзейнікі ўважалі Карскага палітычна непажаданым за ягоныя былыя правыя пагляды, хоць чарнасоценцам Карскі ніколі й ня быў. Карскі-ж сам за галоўных віноўнікаў свае няўдачы з рэктарствам палічыў той беларускі палітычна-нацыянальны актыў, які тады згуртаваўся ў Менску, а які Карскага ўважаў не без падставаў хоць і за беларуса, але чалавека «общерусской» ідэалёгіі, «западноруса».
Няўдача з рэктарствам моцна закранула амбіцыю Карскага як аднаго з выдатнейшых тагачасных беларусаведаў. Паколькі за віноўнікаў гэтага палічыў ён беларускіх незалежнікаў, мсьціўся ён посьля за гэта ў свой спосаб. Калі ў наступным годзе выданьнем Расейскае Акадэміі Навук у Петраградзе выходзіць з друку апошняя кніга ягоных «Беларусаў», у ей, а асабліва ў пасьляслове да кнігі, Карскі вельмі востра атакуе беларускіх палітычных дзеячоў дый беларускі адраджэнча-палітычны рух наагул. Пасьляслова пісанае ў вострым палемічным тоне, адменным ад таго, акадэмічнага, якім былі пісаныя ўсе папярэднія кнігі «Беларусаў».
Карскі зразу-ж летам 1921 году пакідае ўжо назусім Менск і Беларусь дый пераяжджае на сталае жыцьцё ў Петраград, дзе працуе пры Расейскай Акадэміі Навук дый прафэсарам унівэрсытэту. Сваю багатую аднак-жа бібліятэку яшчэ за свайго жыцьця Карскі адказвае ўсё-ж Беларускаму Дзяржаўнаму Унівэрсытэту.
Не зьявіўся Карскі й на Акадэмічную Канфэрэнцыю ў справе рэформы беларускага правапісу дый азбукі, што была арганізаваная ў Менску ў 1926 годзе, хоць запрошаны на яе хіба-ж ён быў. Ня прыслаў на канфэрэнцыю нават і сваіх заўвагаў да праектаваных зьменаў, ані звычайнага прывітаньня. Толькі два гады пазьней, у праскім часапісе «Славія» ён высказвае свае пагляды ў пытаньнях, закранутых на канфэрэнцыі, а пры гэтай нагодзе й лагодзіць значна сваё настаўленьне да беларускае нацыянальнае культуры. Ад гэтага часу
Карскі толькі пачынае тарнаваць азначэньне «язык» да беларускае мовы, заміж папярэдняга сталага «нарэчча».
Пасьля пераезду ў Петраград далейшае жыцьцё й навуковая дзейнасьць Карскага зьвязаныя перадусім з Расейскаю Акадэміяй Навук, што пазьней была перайменаваная на Акадэмію Навук СССР. У Акадэміі ён працуе як сябра ўправы прэзыдыюму, дырэктарам музэю этнаграфіі й антрапалёгіі, старшынёю слоўнікавае камісіі ды камісіі па расейскай мове, рэдактарам «Известий Отделения Русского языка и Словесности АН СССР». Дастае ён і становішча прафэсара на Ленінградзкім унівэрсытэце, на якім выкладае аж да 1928 году.
Як выдатнага ведамага вучонага славянаведа Расейская Акадэмія Навук высылае яго двойчы за межы СССР для навязаньня кантактаў з акадэміямі й унівэрсытэтамі славянскіх народаў. У 1924 годзе Карскі дэлегуецца ў Чэхаславаччыну, на зьезд славянскіх геаграфаў і этнаграфаў у Празе. Запрошаны беларускай студэнцкай моладзяй у Празе ён чытае тады-ж рэфэрат зь беларусаведнае галіны. У часе рэфэрату займае ізноўка становішча прыхільнае беларускаму нацыянальнаму адраджэньню — пазыцыя, адменная занятай у апошняй кнізе «Беларусаў». У 1926 годзе Карскі высылаецца з навуковымі заданьнямі ў Югаславію.
У студзені 1929 году Чэская Акадэмія Навук выбірае Карскага ў свае сябры. Сябраю Беларускае Акадэміі Навук, ані Інстытуту Беларускае Культуры Карскі, выдатны беларусавед і найвыдатнейшы мовавед у галіне беларускае мовы, ніколі ня быў.
Паводле сьветчаньня ягонае дачкі, з выгляду Яўхім Карскі быў «вельмі вялікага росту, шыракаплечы, цёмны бляндын з блакітнымі вачыма». Па характеры — «заўсёды сьціплы, сардэчны, просты». Падобную характарыстыку Карскаму дае й акадэмік Ляпуноў, сьцьвярджаючы, што «як чалавек… Карскі… адзначаўся стойкасыцяй, стрыманасьцяй і разам з гэтым мякчынёй і паблажлівасьцяй да людзей і іх працаў. Прымаючы да друку працы розных навуковых кірункаў, ён стараўся знайсьці добрыя бакі рэцэнзаваных ім кнігаў…»
Апошняя друкаваная праца Карскага з галіны беларускае моваведы — гэта артыкул «Червенский говор», друкаваны ў рэдагаваных ім «Известиях по русскому языку и словесности АН СССР» у 1930 г. Гэта быў моваведны разгляд «Краёвага слоўніка Чэрвеншчыны», складзенага Шатэрнікам, а апублікаванага Інстытутам Беларускае Культуры ў Менску.
У тым-жа годзе Карскага, семдзесяцілетняга хворага старэчу, арыштоўвае дый садзіць у вязьніцу ГПУ, закідаючы яму прыналежнасьць да антысавецкіх арганізацыяў. Колькі месяцаў пазьней, 29 красавіка 1931 году, Карскі памірае.
Пастановай ураду БССР імя Я. Карскага прысвоена Гродзенскай абласной бібліятэцы і Лашанскай сямігодняй школе. Адна з вуліц Гродна названа імем Карскага. 15.1.1961 г. адбылася сэсія аддзяленьня грамадзкіх навук АН БССР у Менску. Даклады чыталі Суднік, Жураўскі, Бырыла, Цімашэнка, Мартынец.
Апрача моваў славянскіх Карскі знаў добра мовы грэцкую дый лацінскую, ведаў і санскрыт, але, што ў беларускай моваведзе асабліва важна, ня знаў балцкіх моваў.