1964年，為落實國家聲學規劃，滿足國家迫切需要，形成全國聲學學科研究中心，經國務院副總理聶榮臻元帥批準，成立中國科學院聲學研究所（以下簡稱聲學所），將原中科院電子所的水聲、超聲、建筑聲3個實驗室，1958年成立的南海研究站、1960年成立的東海研究站、1961年成立的北海研究站整體納入聲學所。
聲學所是從事聲學和信息處理技術研究的綜合性研究所，總部位于北京市海淀區中關村。目前，聲學所在北京設有聲場聲信息國家重點實驗室、國家網絡新媒體工程技術研究中心等9個研究單元；在海南建有南海研究站、在上海建有東海研究站、在青島建有北海研究站。
聲學所定位是：主要致力于聲學和信息處理技術學科的應用基礎和高技術發展研究，圍繞未來5到10年我國在海洋、安全、能源、生命健康和信息網絡等領域的戰略急需，著力破解與聲學和信息處理技術相關的前瞻性重大科技難題與系統集成瓶頸，著力提升自主創新與競爭能力，取得創新性重大成果，引領學科發展方向，保持特色鮮明和不可替代研究所的地位，把聲學所打造成聲學和信息處理技術領域國內外一流的國立專業研究機構。
聲學所擁有包括4位中國科學院院士在內的優秀科技和管理人才隊伍。100余人入選國家、中科院相關人才項目。
聲學所是國務院學位委員會批準的首批博士、碩士學位授予單位。現設有物理學（聲學）、信息與通信工程（信號與信息處理）、地質資源與地質工程（地球探測與信息技術）3個學科學術型博士、碩士研究生培養點和電子信息領域專業型碩士研究生培養點，并設有物理學、信息與通信工程等2個博士后流動站。
2020年，“奮斗者”號聲學系統在萬米海底實現了遠距離、大深度的多制式高穩定雙向高速數字水聲通信，最大工作深度達10909米，達到國際領先水平；基于慣導與多普勒測速儀、超短基線定位聲納的水下高精度自主導航設備，采用了多傳感器數據融合技術，支持“奮斗者”號實現了馬里亞納海溝“大海撈針”，完成連續、自主、精確、可靠的水下導航定位；全海深前視成像聲納、避碰聲納多種多部聲納，實現了潛水器對海底的全覆蓋探測，超視距觀測和精細測量。
