ドイツ、シュトラウビングに生まれる。ミュンヘン音楽・演劇大学（Hochschule für Musik und Theater München）にてピアノ、クラリネット、指揮を専攻。1986年、カール・マリア・フォン・ウェーバーコンクール、及びフェリックス・モットルコンクール（ミュンヘン）で振興賞受賞。1987年、国際ウェーバーコンクール（ワルシャワ）のクラリネット部門にて入賞。奨学金を得て、ベルリン・ドイツ・オペラが主催するオーケストラセミナーに参加した後、ベルリン交響楽団にてソロクラリネット奏者として活躍。その傍ら、指揮者へルマン・ミヒャエルの下で指導を受け、優秀な成績でミュンヘン音楽・演劇大学の学位を修める。同大学主催のマイスターコースにおいては、レナード・バーンスタイン及びセルジュ・チェリビダッケの指導を仰ぐ。
1991年、レーゲンスブルク劇場（ドイツ）のコレペティートルに採用される。同時に、フンパーディンクの「ヘンゼルとグレーテル」でオペラデビューを果たす。同劇場で第一指揮者に就任した後、続いて、総合音楽副監督として活躍。2001/02年シーズンにはスイスのザンクト・ガレン劇場で第一指揮者の任を務める。
1994年、バイエルン州振興賞受賞。
2002年から2009年まで、アウグスブルク市の総合音楽監督及び、アウグスブルク・フィルハーモニー管弦楽団シンフォニーコンサートの団長を務める。マリオ・アドルフとベルリン・ドイツ交響楽団による「星の王子様」（ギースバート・ナーター作曲）初公演の急な依頼を引き受けたことを機に、客演指揮者として同交響楽団に招聘される。同地で「カルミナ・ブラーナ」（オルフ）、「魔笛」（モーツァルト）、「オルフェウとエウリディーチェ」（グルック）、「さまよえるオランダ人」（ワーグナー）を指揮。
2002年1月、ライプツィヒ歌劇場のゲヴァントハウス管弦楽団による「ばらの騎士」（リヒャルト・シュトラウス）再公演の指揮で、同劇場でのデビューを飾る。
更に2004年3月、ウヴェ・ショルツの振り付けによるバレエ公演において、同管弦楽団による「交響曲第八番」（ブルックナー）の指揮を務める。2006年には、「ピアノ協奏曲第九番」（モーツァルト）、「交響曲第二番」（ロベルト・シューマン）をはじめとして、同地で数々のバレエ公演の指揮を務める。
“ザルツブルク文化期間2004年”の際には、ザルツブルク祝祭大劇場において、モーツァルテウム管弦楽団の指揮を務める。演目はシュトラウスの「サロメ」。
2005年7月、“アウグスブルクの宗教和議450年記念”の折り、アウグスブルク・フィルハーモニー管弦楽団の指揮を務め、「交響曲第八番」（グスタフ・マーラー）の初公演で大成功を収める。この公演により、同氏は2005年のアウグスブルク劇場賞で特別賞を受賞する。
2005年8月にはヘレンキームゼー・フェスティバルに招待され、シンフォニア・ヴァルソヴィアの指揮を務める。演目はシュトラウス、ワーグナー、ベルリオーズ。
2007年から2010年まで、ライプツィヒ歌劇場ゲヴァントハウス・オーケストラで第一常時客演指揮者を務め、 80 回を超える公演をこなす。代表曲目は以下の通り。プッチーニ「マノン・レスコー」、ヴェルディ「椿姫」、モーツァルト「魔笛」、チャイコフスキー「くるみ割り人形」、アダン「ジゼル」、オルフ「カルミナ・ブラーナ」ならびに、ウヴェ・ショルツ振り付けのバレエ公演におけるブルックナーの「交響曲第八番」及びシューマンの「交響曲第二番」。
2010年6月、オーボエ奏者のトーマス・インダーミューレとアウグスブルク・フィルハーモニー管弦楽団と共に、デヴィット・フィリップ・ヘフティ作曲の「オーボエと管弦楽のための協奏曲」の世界初録音を行い、NEOSよりCDを発表する。
2008年1月にはバンベルク交響楽団の指揮を務め、バイエルン放送局の収録で、マックス・レーガーの「モーツァルトの主題による変奏曲」ならびに、マインラート・シュミットの「ヴィーナス(Im Zeichen der Venus)」を演奏する。
更に、アウグスブルク・フィルハーモニー管弦楽団の演奏で、マインラート・シュミット作曲の子供のためのコンサート「クレスピーノとチューリップの王子様（Crespino und König Tulipan）」、モーリス・ラヴェルの「マ・メール・ロワ」（カバリ・レコード LC 05724）をはじめとする数々のCDを発表する。2007年にはEMIから、クリストフ・ハルトマンのオーボエソロとアウグスブルク・フィルハーモニー管弦楽団による、アントニオ・パスクッリの「オーボエ超絶技巧作品集“Fantasia Italiana”」の初録音を発表する（EMI 0946 3 79944 2 9）。
2011年1月、マクデブルク劇場で「ウェルテル」（ジュール・マスネ）の初演を指揮。更にオスロ（ノルウェー）の国際歌劇場（Den Norske Opera）でモーツァルトの「魔笛」の初演を指揮し、2011/12シーズンの幕開けを飾る。
2012年９月、東京武蔵野音楽大学と共同で南ドイツ巡回公演を行い、三度のコンサートの指揮を務める。代表曲目はベートーベンの「ピアノ協奏曲第三番」、チャイコフスキーの「交響曲第六番」。
ノルウェー音楽大学（NMH）の招待を受け、2013年3月には、オスロ音楽大学交響楽団による二度のコンサートを指揮する予定である。リヒャルト・シュトラウスの「オーボエ協奏曲」、ヨハネス・ブラームスの「交響曲第一番」がプログラムに組まれている。
ルドルフ・ピールマイヤー氏は) 2013年より数々の音楽大学で国際的に活躍。オスロのノルウェー国立音楽大学に従事する傍ら、年7月より、日本の武蔵野音楽大学客演指揮者として活躍。
ルドルフ・ピールマイヤーは、2013年よりオスロのノルウェー国立音楽アカデミー、ルーアン・コンセルヴァトワール（フランス）をはじめとする、世界各地の音楽教育機関で後進の指導にあたっている。2014年7月から、武蔵野音楽大学の客員教授（管弦楽団指揮）を務める。
2014年以降、レンヌのブルターニュ交響楽団の指揮者としても活躍の場を拡げており、2016年5月から6月、2017年1月、4月、6月に数多くの演奏会で指揮した。
レンヌ・オペラ座、アンジェ大劇場、ナント・グララン劇場の2017/2018シーズンでベッリーニの「ノルマ」、さらに2018/2019シーズンでワーグナーの「さまよえるオランダ人」を指揮。
2020年5月―6月に、ナント・グララン劇場でペイ・ド・ラ・ロワール国立管弦楽団によるプッチーニの「蝶々夫人」を指揮する。その他、レンヌ・オペラ座、アンジェ大劇場でも公演を予定してい、
2020年9月―10月に、ノルマンディ・ルーアン歌劇場にてワーグナーの「タンホイザー」の指揮を務める。東京にて、武蔵野音楽大学管弦楽団によるマーラーの「交響曲第 Brahms Requiem / Haydn-Variationen の指揮を予定している。