وكان الشيخ عبد العزيز رحمه الله محبا للعلم والبحث عن الكتب والمخطوطات ، وبحوالي عام 1371 هـ شد الرحال الي دمشق لأشباع هوايته واتصل بعلمائها وتعرف عليهم ودخل مجالس اغلب المشايخ ورافقهم واقتنى المخطوطات والكتب. ثم سافر إلى إلى العراق ودرس على مشايخ العراق وبتوصية من والدة الشيخ ابن مانع ، ثم عاد الى قطر بعد ان تزود في العلوم العربية بأنواعها ومحمل بكنوز الكتب من الدول التى زارها . وكان جادًا مجدًّا للتحصيل والبحث، وكان لا يضيع من وقته، وكان مطلعًا على التفاسير، وما قاله المفسرون على الآيات وما اختلفوا فيه، وكان مطلعًا وحافظًا للسنة، فيستحضر الكثير من أحاديث البخاري بأسانيده وله عناية جيدة بتاريخ نجد وانساب اهلها وله محفوظات في فنون العلم منها (اخصر المختصرات )للبلياني في الفقه الحنبلي وكتاب التوحيد.

وكان فقيهًا مطلعًا على خلاف العلماء، ويكاد يحفظ نظم ابن عبد القوي البالغ أربعة عشر ألف بيت في فقه الحنابلة، هذا عدا المختصرات والمتون ونظم العلوم.
ثم تزوج الشيخ عبد العزيز من دمشق من احدى الأسر الدمشقية المحافظة وهي أم أولاده.