公元9世纪末，投奔葛逻禄的葱岭西回鹘并不甘心。他们联合葛逻禄人、样磨人共同建立了一个名叫“喀喇汗朝”的袖珍小国。“喀喇”，突厥语意为伟大、强大、最高，而它的原意是黑色。因此，喀喇汗朝又被称为“黑汗王朝”。 第一任汗王名叫毗伽阙·卡迪尔汗，汗帐设在八剌沙兖（今吉尔吉斯的托克马克附近）。汗王死后，两个儿子分别继位：老大巴泽尔驻八剌沙兖，称“狮子王”，为大汗；老二奥古尔恰克驻怛罗斯（江布尔），称“公驼汗”，为副汗。

信仰佛教的公驼汗与信仰伊斯兰教的西部邻居萨曼王朝关系恶化，公元893年，萨曼王朝发动了声势浩大的伊斯兰圣战。 圣战的威力可想而知。很快，萨曼王朝的圣战有了结果，喀喇汗副都怛罗斯被攻克，公驼汗奥古尔恰克被迫迁都喀什噶尔。 不久，萨曼王朝伊斯玛仪汗兄弟发生内讧，伊斯玛仪汗的弟弟纳斯尔在内讧失败后来到喀什噶尔寻求政治避难。为了利用伊斯玛仪汗兄弟的矛盾打击萨曼王朝，奥古尔恰克热情接纳了这位穆斯林王子，并且委任他为阿图什地方长官。

归附的纳斯尔却并未改变自己的信仰，而是暗地里在阿图什建起了一座清真寺，穆斯林教徒和商人开始源源不断地来到这里。 萨克图·布格拉是奥古尔恰克的侄子，此时已经长成一位英俊潇洒的少年。不知为什么，这位少年对穆斯林商品情有独钟。爱屋及乌，渐渐地，他认识了纳斯尔王子并与之结成了朋友。在长期的耳濡目染中，萨克图偷偷皈依了伊斯兰教，并取了“阿不都·克里木”的教名，算起来他应该是喀喇汗王族信仰伊斯兰教的第一人。

千万不要低估了这位英俊少年，其实他信仰的转变包含着不为人知的勃勃雄心。他一边暗中学习宗教知识，一边秘密发展忠实信徒。经过多年的卧薪尝胆，他在25岁时带领穆斯林兄弟成功发动了政变，推翻了自己的叔叔兼后父（父亲死后，他的母亲嫁给了这位叔叔），夺取了公驼汗的王位。 一上台，他就宣布伊斯兰教为合法宗教，号召臣民皈依穆斯林。然而他的号召如石沉大海，几乎没有掀起什么波浪，甚至有些佛教徒开始酝酿暴动。没办法，他只有舞动手中的权杖，开始自上而下地强制推行伊斯兰教。不久，他又发动了对八剌沙兖的圣战，打败了拒绝接受伊斯兰教的大汗。

从此，伊斯兰教成为喀喇汗王朝的国教，作为穆斯林标志的星月旗开始在这片土地上猎猎飘扬。 喀喇汗王朝强制推行伊斯兰教并疯狂迫害佛教徒的做法引起了信奉佛教的东部邻居大宝于阗李氏王朝的不满，于阗国不仅对喀喇汗王朝的佛教徒暴动给予支持，而且还对逃亡于阗的佛教徒予以收留和庇护。于是两国关系急转直下，从宋太祖建隆三年（962）开始，展开了近半个世纪的血腥肉搏。

战争的进程一波三折，有胜有负，一会儿你打过来，一会儿我又打回去，两国的边界线恰如一个傻子追完狗后呼呼喘气的肚子。天平在宋真宗咸平二年（999）发生了倾斜，喀喇汗王朝抽出一支军队轻易地消灭了以今乌兹别克布哈拉为中心的萨曼王朝，收编了人数众多的伊斯兰圣战同盟军。不久，喀喇汗王朝就由防守转入进攻。宋真宗景德三年（1006），喀喇汗王朝终于占领了于阗城，扫清了西域的最后一个对头。

至此，喀喇汗王朝达到鼎盛时期，其疆域包括今我国新疆南部，吉尔吉斯斯坦、塔吉克斯坦和哈萨克斯坦南部、乌兹别克斯坦东半部的广大地区，首都设在八剌沙兖，陪都设在喀什噶尔。 在伊斯兰教传入后，他们将用粟特字母创制的古回鹘文改为以阿拉伯字母创制的“畏兀儿字”。 公元12世纪30年代，契丹人耶律大石领兵西来，在喀喇汗朝的土地上建立了西辽，东、西喀喇汗王朝相继沦为西辽的附庸。