고스게 신사는 메이지시대의 신불분난 때까지 신기진언종(新義真言宗)에 소속된 고스게잔간류지(小菅山元隆寺)로 불려, 일찍이 도카쿠시와 이즈나와 함께 기타시나노의 3대 수험장으로서 강성하였다. 창건 유래는 확실하지 않으나, 라이유키(来由記)에 의하면 불법을 알리는 데 걸맞는 토지를 구하여 제국을 돌던 수험도의 조상 엔노오즈노(役小角)가 고스게산을 찾게 되어 하쿠호8（680）년에 고스게산을 개산하였고, 다이도년간(806～810년）에 사카노우에노 다무라마로(坂上田村麻呂)가 이 토지를 방문하여 핫쇼곤겐본당(八所権現本宮)과 가야키리당(加耶吉利堂)을 재건, 그 밖에 수험사원인 고스게잔 간류지를 창건. 이것이 고스게 신사의 기원이다. 고스게권현(마다라신)을 모시고, 더욱이 구마노, 긴푸, 하쿠산, 다테야마, 산노, 하시리유, 도카쿠시의 칠주 신들을 권청하여 핫쇼의 궁전을 석굴내에 모셨다는 기술이 남아 있다. 또 헤이안시대 후기에는 본지수적사상이 정착되어 구마노 수험이 들어와 고스게산의 확립에 기여하였다.

그 후 가마쿠라시대에 들어서 남북조시대가 시작될 무렵에는 고스게 일대는 남조의 다카나시 세력과 북조의 이치카와 세력에 접해 있었는데, 남조당의 다카나시 씨가 역습을 받아 고스게에서 참패. 그 후 무라마치 막부의 지배가 안정됨과 함께 고스게산은 수험령장으로서 강성기를 맞이하여, 4년의 세월에 걸쳐 간류지의 궁사방중사관(宮社坊中寺観)을 재건, 욱사내 궁전의 건립과 동죽봉황문투조욱사 와키다치 이면이 제작되어 있다. 즉, 무라마치시대까지 고스게산에서는 조영이 빈번하였는데, 그것을 가능하게 할 만큼 번영하였다고 추측된다.

전국시대에 들어서 시나노 전역이 우에스기와 다케다의 쟁패 무대가 되었고, 고스게산 일대는 우에스기의 비호 아래 놓여 있었다. 우에스기 겐신(上杉謙信)이 다케다 신겐(武田信玄)과 합전에 맞섰을 때에는 필승기원의 원문을 바쳤다. 그러나 그런 번영도 에이로쿠10（1567）년 가와나카시마의 전투까지의 일. 이 싸움에서 우에스기 군은 패배하여, 다케다 군세에 의해 간류지는 불타고, 본당을 제외한 당탑은 죄다 소실되었다고 한다. 그 후 다케다를 멸망시킨 오다의 지배시기를 거쳐, 고스게는 우에스기 경승령이 되어 정세가 안정되면서 욱사본전이 재건되었다.

에도시대가 되면서 욱사참도의 삼나무 거리와 많은 종교건축이 정비되었고, 영장으로서의 고스게의 통치는 영주의 비호 아래에 있는 사원에서 마을 사람들에게로 옯겨졌다. 제례의 성격도 종교적인 것에서 참배자에게 보이는 것에 중점을 둔 유악적, 관광적인 성격이 더해진 것으로 바뀌어 간다.

에도시대를 지나 메이지에 접어 들면서 신불분난에 의해 다이쇼인 별당직이 신직에 임하여, 불식집기를 보리원에 이관하는 반면, 고스게사 핫쇼대신이 되어 메이지33（1300）년에는 고스게 신사라 개칭하였다. 오늘날의 직접적인 기원이 되는 고스게 신사가 성립된 것이다.

• 욱사 고스게 신사 본전
  표고 900m 부근, 욱사인 고스게 신사의 본전에 도착. 덴쇼19（1592）년에 복구기록이 있으며, 고스게 신사 제신 8주를 모신다. 본전과 부속궁전은 무라마치시대의 것으로 쇼와39（1964）년에 나라 중요문화재에 지정되었다.
  
  건물은 남측을 정면으로 하여 팔작지붕 형태로, 북측면에 석굴을 뒤로 지어져 있다. 차양은 북측에는 없으며, 서측 계단에서 사전에 올라가도록 되어 있다. 배후의 암석장에서는 물 줄기가 떨어져 본전 안에는 감로지가 있는데, 이 연못이 처음 신봉의 대상이 되지 않았나 전해져 오고 있다. 또, 우에스기 겐신이 가와나카시마 출병 때 필승기원의 원문을 바쳐, 니가타현에도 숭배자가 많이 있다. 본존은 마두관음이지만, 축제와 같은 특별한 날 외에는 건물 안에 들어갈 수 없다. 그리고 건물 깊숙이 고암(鼓岩)이라 불리는 암석이 있어 손벽을 치면 북소리가 들린다고 한다.
  
  덧붙이자면, 탐승 코스에서는 고스게산 정상（1047m）을 지나 호쿠류호(北竜湖)로 연결 되는 루트가 있다.
• 가가미이시(거울 돌)
  도중에 탐승 코스(초심자용)와 참배로로 나뉘는 길이 있는데, 참배로를 걷다 보면 표면이 거울처럼 평평한 「가가미이시」가 있다. 이 가가미이시와 아부미이시(발판 돌), 가쿠레이시(숨은 돌), 고자노이시(방석 돌), 후나이시(뱃돌)의 다섯 개 외에 현존이 불확실한 어할석, 대흑석, 와상석의 세 개를 합해 「칠목팔석」의 하나로 알려져 있다.
• 후도이와(부동석)
  고보대사가 등배할 때, 붓을 던쳐 절벽에 범자를 쓴 것이라 한다. 붓을 던진 장소에는 금줄이 둘러져 있고, 깊은 못 맞은 편에 「후도이와」가 보인다. 거의 수직인 후도이와의 중간쯤에는 부동명왕이 놓여 있다. 이런 험준한 곳에 무거운 석조물을 옮기는 것 또한 수행의 하나였을까.
• 후나이시(뱃돌)
  넓은 바다 파도 위에 배가 떠 있는 것과 같다고 하여 「후나이시」라 불린다. 고자노이시와 이 후나이시 중간지점에서 삼나무 거리가 끝나고 용암성 암석이 노출되는 가파른 등산로가 있다.
• 가쿠레이시(숨은 돌)
  가와나카시마 전투 때, 다케다군의 추적을 피해 우에스기 겐신이 숨었던 것에서 비롯 된 「가쿠레이시」. 다케다는 고스게노 사또까지 쫓아 왔지만, 산울림과 동시에 돌연 커다란 바위가 굴러 떨어져 방해 공작을 펼치는 듯 대목이 쓰러지면서 다케다군은 고스게권현의 신위를 두려워 허둥지둥 도망쳤다고 한다.
• 고자노이와(방석 돌)
  역행자와 고보대사가 참배할 때 앉았다고 하는 「고자노이와」. 한 곳이 작게 패인 자국이 있는데, 들고 있던 지팡이가 꼽힌 것이라 한다. 여기까지의 참배로 도중에는 사카노우에다무라마로가 재건했다고 하는 가야키리당의 흔적이 있다.
• 아부미이시(발판 돌)
  돌 측면에 말 발판 모양의 패임이 있어 「아부미이시」라 불린다. 아부미란 말 안장 양 옆의 발판을 말한다.
• 도리이
  겐류지 다이쇼인 유적지 호마당 옆에 선 고스게 신사 옥사로의 참배로 입구의 도리이. 표고 900m의 대석굴에 지어진 옥사에는 이로부터 1260m. 수령 수백년의 커다란 삼나무 거리가 좌우로 펼쳐진 참배로에 들어 선다. 삼나무 거리 입구 주변에는 젠코지 지진으로 타계한 이마이 와스케옹의 비, 석등롱, 파초구비, 범자의 석비 등 석조물이 늘어서 있다. 이곳이 실직적 고스게노 사또의 중심임을 가리키고 있다.
• 삼나무
  약800m 가량의 구간에 180그루의 거목이 삼나무 거리를 형성하고 있다. 에도시대의 조영으로 큰 것은 길이 45m, 수령은 300년으로 알려져 있다. 옥사까지의 구간을 포함 눈이 녹은 후와 축제 전에는 이 지구 주민에 의해 정비된다.