洞窟の高さは十丈（約３０㍍）で、この中で「佐太大神」が生まれたと記されています。母のキサカヒメが佐太大神を出産したとき弓矢をなくしてしまいました。
そこで、もし生まれてくる子が男の子であれば、なくした矢よ出てこいと願ったところ、角の弓矢が出てきます。しかし、キサカヒメは「これは、私の弓矢では
ないと」捨ててしまいました。すると今度は、金の弓矢が出てきました。キサカヒメはこの洞窟は暗いと矢を手に取ると洞窟を射貫いてしまいました。
この洞窟にはキサカヒメが鎮座しているとし、加賀社と称してお祀りされています。
さらに、地元に伝わる不思議な伝承もあります。船で洞窟辺りを通ときは、「大声を出さねばならない」というものです。
もし、静かにひっそりと通ろうとすると、神が現れつむじ風を起こし船を転覆させてしまう、しまうというのです。
たぶんこれは、洞窟内には神がいるという畏怖の念を古代人も抱いていたからでしょう。
今でも、新潜戸には鳥居が残されていますが、加賀社は古賀港に移されています。また、ここで生まれられた「佐太大神」は「出雲国風土記」の中では
四大神の内の一人とされ、大変に身分が高く佐太神社にお祀りされています。
「出雲国風土記」に出てくる加賀の潜戸