国分寺は、天平13年(741年)、聖武天皇の勅命により全国の国ごと(現在のほぼ都府県にあたり、当時60余国に分かれていた)に建てられた官寺(国立の寺院)で、国府の近くに設置されました。
越後国府は平安時代の記録により頸城郡にあったことが知られますが、その具体的な所在地はわかっておりません。現在、五智にある国分寺は、上杉謙信によって永禄5年(1562年)に真言宗寺院として再興されたと伝えられています。寺地は移転しても、由緒の継承など何らかの関係のあったことが推測されるため、境内地は「越後国分寺境内」の名称で、市の史跡に指定されています(昭和63年の火災により本堂が焼失したため、「越後国分寺伽藍」から「越後国分寺境内」へ名称変更となった)。
国分寺は、謙信による再興の後、上杉氏に替わって領主となった堀氏によって再び荒廃しますが、高田城が築城された慶長19年(1614年)頃、天台宗の俊海(しゅんかい)によって再び復興され、今に至っています。
現在の境内は、本堂に向かって右に三重塔(五智国分寺三重塔、県指定文化財)があり、左に経蔵(国分寺経蔵 附棟札1枚、市指定文化財)が建っています。しかし、江戸時代のある時期には三重塔が左にあったこともあり、伽藍配置に変遷のあったことが分かってきました。また、本堂も江戸時代以前には東向きに建っていたと考えられています。