法務部政風司在廉政署成立以前，監督並管理全國各政風機構；而各政風機構的前身，在民國42年7月至61年8月安全處(室)時期，主要辦理機關保防及安全維護工作，由法務部調查局（下稱調查局）遴選並施以「保防班」訓練結業人員擔任。61年8月1日各機關安全單位裁撤，改制為人事查核單位，組織編制併入機關人事單位，稱為人事處（二）或人事室（二）主要辦理人事查核業務，仍受調查局指揮監督，其人員係由調查局公開招考並施以「人事查核班」專業訓練，結訓後俟調查人員乙等特考及格分發各機關人事查核單位任職，此一時期亦有部分調查局「調查班」結業人員調任人事查核單位。
　　81年7月1日「政風機構人員設置條例」公布施行後，各機關人事查核單位於同年9月16日全面改制為政風機構（設政風處、室），主要辦理端正政風、促進廉能政治及維護機關安全工作。依該條例規定，法務部為掌理全國政風業務之主管機關，法務部爰自82年起請辦政風人員特考，進用人員先分發各機關政風機構後，再由法務部施以為期3～6個月之「政風班」集中專業訓練。自85年開始，則改為請辦高普考試政風類科考試分發（即政風班第5期）；自91年開始，為應各縣市政府基於人事安定之用人需要，另增加請辦基層特考（92年以後考試名稱改為地方特考）分發，分發後錄取人員亦由法務部施以政風班集中專業訓練。
　　89年第十任總統、副總統大選後政黨輪替，法務部前部長陳定南上任後宣示推動成立「法務部廉政署」，修訂「法務部組織法」及研擬「法務部廉政署組織條例草案」，經行政院第2703次院會通過，送請立法院審議，並列為亟需於立法院第4屆第5會期審議通過之優先法案之一，惟立法院朝野黨團協商時，因廉政署相關草案版本太多（行政院版與立法委員版本共7個版本）未獲共識而緩議。
94年10月17日第63次行政院政策協調會報，與會人士力主應積極加強肅貪，俾早日達成「掃除黑金、澄清吏治」之目標。法務部以維持政風司為政策幕僚，並成立廉政局為肅貪執行機關之規劃，另研擬以肅貪為專責任務之「法務部廉政局組織法草案」及配套法案「法務部組織法部分條文修正草案」，經行政院94 年10 月26 日第2963 次院會通過，送請立法院審議，惟至96年12月21日第6屆第6會期結束未付委審查。因立法院屆期不續審，相關組織法草案行政院復再次於97年2月13日第3079次院會決議通過，函送立法院審議（第7屆）。
　　97年5月法務部王前部長清峰上任後，認為我國在防貪、肅貪工作上是透過檢察機關、政風機構與調查局廉政處進行，雖然達成一定之績效，然而外界對於廉能政府及整合現有單位設立廉政專責機構仍有高度期待，特成立專案小組，就原規劃之「法務部廉政局」重行檢討，重行研議設立廉政專責機關的必要性。於98年5月22日提出「我國設立廉政專責機關評估報告」陳報行政院為政策參考，建議規劃設立統籌反貪、防貪、肅貪權責之廉政專責機關；另於98年7月27日召開「法務部組織調整規劃分組會議」，決議「整併政風司與中部辦公室，成立「法務部廉政署」，而該部政風司（業務單位）改制為政風處（輔助單位）」。基於署、局規劃原則與內容不同，法務部於98年12月4日函請行政院准允撤回「法務部廉政局組織法草案」及「法務部組織法第9條之1、第29條修正草案」，並經立法院99年1月8日台立院議字第0990700163 號同意撤回。
　　為展現政府打擊貪腐決心，回應民眾期盼，落實「聯合國反貪腐公約」之各項反貪腐措施，馬總統於99年7月20日宣布設置「法務部廉政署」專責於國家廉政政策規劃，執行反貪、防貪及肅貪業務，以治標（執法）、治本（防貪）及根除（教育）三管齊下策略，達成提高貪瀆犯罪定罪率、降低貪瀆犯罪發生及落實保障人權等三大目標。為完備我國廉政機制，法務部於99年9月23日將「法務部廉政署組織法草案」及「法務部組織法部分條文修正草案（有關廉政署部分）」陳報行政院審查，並列為於立法院第7 屆第6 會期優先推動審議法案，經99年11月4日行政院第3220次會議決議通過，同日函送立法院審議。
99年12月9日「法務部廉政署組織法草案」於立法院第7 屆第6 會期司法及法制委員會第16 次全體委員會議審查完竣，復於100年4月1日立法院第7屆第7會期第7次會議經逐條表決完成三讀立法程序。總統於100年4月20日公布制定「法務部廉政署組織法」，行政院並核定法務部廉政署於100年7月20日成立。
　　我國設置專責廉政機構的倡議經過近30年的時間，終於在朝野共同的努力下，完成立法程序，廉政署首重防貪與反貪工作，並充分結合各機關政風機構，從根本整治貪腐，以「標本兼治」、「擴大治理面向」為核心工作原則，並參酌廉政先進國家地區經驗，全力推動廉政工作社會參與，將企業、社區、社團、學校均納入廉政夥伴團隊。廉政署結合檢察、調查、政風及其他政府機關力量，共同打擊貪腐，除精緻偵查貪瀆案件及協助政府機關完備內控機制外，並注重反貪腐措施及社會參與的推動，建立民眾的反貪意識，策進國家廉政建設，使臺灣成為更清廉、更具競爭力的國家，實現政府守護家園、提升生活品質及國家永續發展之承諾。