Jihlavský kraj byl zřízen spolu s dalšími samosprávnými kraji na základě článku 99 a následujících Ústavy České republiky, ústavního zákona č. 347/1997 Sb., o vytvoření vyšších územních samosprávných celků, který stanoví názvy krajů a jejich vymezení výčtem okresů (území okresů definuje vyhláška ministerstva vnitra č. 564/2002 Sb.) a pro vyšší územní samosprávné celky stanoví označení „kraje“. Kraje definitivně vznikly 1. ledna 2000, samosprávné kompetence získaly na základě zákona č. 129/2000 Sb., o krajích (krajské zřízení), dne 12. listopadu 2000, kdy proběhly první volby do jejich nově zřízených zastupitelstev. Toto krajské členění je obdobné krajům z let 1948–1960, zřízených zákonem č. 280/1948 Sb.
Vytvoření Jihlavského kraje bylo iniciováno Vlastou Parkanovou a podle ní měl představovat brzdu opakování moravských nároků na obnovení země Moravské jako politického celku a koncepce spolkových zemí jako varianty samosprávy, kterou v Poslanecké sněmovně požadovaly strany moravského hnutí na počátku 90. let. Proti Vlastě Parkanové stál v bodě vytvoření Jihlavského kraje především Jan Ruml, který argumentoval že jde o neorganické sloučení Čech a Moravy a zpracoval vládní návrh 13 krajů bez Jihlavského kraje a s Prahou jako součástí Středočeského kraje. Mezi těmito návrhy posléze vznikl vládní kompromis a dnešní kraj Vysočina se tak stal posledním přidaným krajem do návrhu ústavního zákona č. 347/1997 Sb., o vytvoření vyšších územních samosprávných celků, a to sněmovním výborem v říjnu 1997.
Zákonem č. 387/2004 Sb. bylo k 1. lednu 2005 přesunuto 25 obcí z kraje Vysočina do Jihomoravského kraje.
31. května 2001, dnem vyhlášení novelizujícího ústavního zákona č. 176/2001 Sb., získal kraj nový název Vysočina (současně byly přejmenovány i další tři kraje), což bylo iniciováno předchozí anketou mezi občany kraje a usnesením zastupitelstva kraje. Spolu s hlavním městem Prahou tak byly jedinými kraji v Česku, které neměly v názvu stanoveném ústavním zákonem slovo „kraj“. Kraj ale 2. srpna 2010 navrhl ústavní zákon, jímž se měl název změnit na Kraj Vysočina, a Poslanecká sněmovna 23. března 2011 tento návrh ve znění komplexního pozměňovacího návrhu reagujícího na stanovisko vlády schválila, žádný poslanec nehlasoval proti návrhu a žádný poslanec během projednávání nevznesl námitku k podstatě návrhu. Tato novela ústavního zákona nakonec úspěšně prošla celým legislativním procesem a nabyla účinnosti dne 1. srpna 2011. Od tohoto data jde tedy již o „Kraj Vysočina“. Druhou změnu názvu předkladatel zdůvodnil tím, že si ji vynutila sama praxe, protože subjekty používají název Vysočina ve spojení s určením kraj naprosto běžně, a to i v písemných a právních dokumentech, a prosté označení Vysočina bez dalšího vymezení komplikuje namnoze určení, zda se nejedná například o obchodní organizaci nebo výrobek, eventuálně geografický pojem.
První sídlo kraje bylo v jihlavském sídle Komerční banky.