Все банки, функционирующие в стране, кроме Национального банка Республики Казахстан, представляют собой второй уровень банковской системы и являются банками второго уровня.  Юридическая основа деятельности банков второго уровня — Закон «О банках и банковской деятельности в Республике Казахстан» от 31 августа 1995 г. № 2443. 
В соответствии с этим законом банк второго уровня в Казахстане является юридическим лицом, осуществляющим независимо от собственности, коммерческую деятельность, основная цель функционирования которого — получение прибыли.  Банки второго уровня вправе открывать свои дочерние банки, филиалы и представительства как на территории Казахстана, так и за его пределами.