در بهار سال 1318 در روستای امامقلی، حدود 40 کیلومتری قوچان، به دنیا آمد.
کودکی را در زادگاه پدرش در روستای آقکند، بین میانه و زنجان سپری کرد و در همان جا به مدرسه ابتدایی رفت.
چون پدرش از فعالان فرقه دمکرات بود بعد از سقوط حکومت پیشهوری پدرش به شوروی گریخت و او همراه مادر به قوچان رفت و در حالی تحصیل در کلاس اول ابتدایی را ادامه داد که فارسی کمی میدانست و در مدرسه قبلیاش تنها زبان ترکی آذربایجانی را تدریس کرده بودند.
در مشهد دیپلم گرفت و به استخدام اداره فرهنگ قوچان (آموزش و پرورش کنونی) درآمد و آموزگاری را پیشه کرد.
در سال 1338 به تهران آمد و در بانک صادرات استخدام شد و تا 1342 در آن بانک کار میکرد. در سال 1342 با کمک قاضی خیرخواهی در دادگستری قوچان برای ادامه تحصیل به آلمان رفت.
در سال 1349 وقتی از آلمان بازگشت دارای دو دختر به نامهای کتایون و بیتا بود و از دانشگاه گوتینگن آلمان دکترا گرفته بود.
در بازگشت نخست به استخدام دانشگاه اصفهان درآمد و بعد توسط ساواک اخراج شد.
پس از اخراج از وزارت علوم و آموزش عالی در سال 1353 سرانجام مرکزتحقیقات ایرانشناسی را تأسیس کرد. بعد از انقلاب این مرکز تعطیل شد.
تأسیس مهد کودک و رانندگی یکی از سرویسهای این مهد کودک به مدت ده سال تنها شغلی بود که وی داشت.
در 1367 مجدداً به آلمان رفت و به مدت 6 سال به تحقیق و تدریس در دانشگاههای دانشگاه ماربورگ و گوتینگن مشغول بود.
سرانجام در 1373 به ایران بازگشت و رییس بخش ایرانشناسی دایرةالعمارف بزرگ اسلامی را به عهده گرفت.
در سال 1379 براثر سکته مغزی و فلج شدن نیمی از بدن خانهنشین شد اما به کار تحقیق و ترجمه ادامه داد.
پرویز رجبی در پاییز و زمستان 1389 یک دوره سخت بیماری و شیمیدرمانی را تحمل کرد و سرانجام، ساعت 22:15 دقیقه روز 21 بهن ماه 90 در خانه خواهر کوچکترش که پس از مرخصی از بیمارستان برای مراقبت به آنجا منتقل شده بود و در آغوش فرزندانش سام و کتایون جهان را بدرود گفت.
تألیف
• کریم خان زند و زمان او ، 1352، 1554، 1356، 1375 • معماری ایران در عصر پهلوی ، 1356 • جندق و ترود دو بندر فراموش شده کویر بزرگ نمک ، 1353، 1356، 1384
• جشنهای ایرانی ، 1358، 1375 ، 1385 • تاریخ خط میخی فارسی باستان ، 1359 • مهر ایران، 1377 • تخت جمشید بارگاه تاریخ ، 1377
• ارج نامه شهریاری ، 1380 • ایرانشناسی، فرازها و فرودها ، 1381 • هزارههای گمشده: اهورمزدا، زرتشت، اوستا، جلد 1، 1380، 1383
• هزارههای گمشده: هخامنشیان به روایت، جلد 2، 1380، 1383 • هزارههای گمشده: از خشیارشا تا فروپاشی هخامنشیان، جلد 3، 1380، 1383
• هزارههای گمشده: اشکانیان، جلد 4 ، 1381 ، 1383 • هزارههای گمشده: ساسانیان، جلد 5 ، 1382 ، 1383 • ترازوی هزارکفه ، 1383
• شما در این خانه حقی ندارید ، 1383 • ایران، 1384 • سدههای گمشده، مجلد 1، از فتح ایران به دست اعراب تا بر آمدن صفاریان (1385)
• سدههای گمشده، مجلد 2، صفاریان، سامانیان، غزنویان، غوریان (1385) • سدههای گمشده، مجلد 3، علویان، دیلمیان، آل زیار و آل بویه (1385)
• سدههای گمشده، مجلد 4، سلجوقیان (1387) • سدههای گمشده، مجلد 5، اتابکان، لهله شاهان، خوارزمشاهیان(1389)
• سدههای گمشده، مجلد 6، مغولها و ایلخانان در ایران(1390) • فرمایشهای شاهان، آماده چاپ در سال 1385 • سفرنامه اون