1962年，我國處于國民經濟最困難的時期。中央提出“調整、鞏固、充實、提高”的八字方針。根據當時的形勢，中國科學院與西北局商定：撤消陜、甘、寧、青四?。▍^）的分院，以中國科學院蘭州分院和中國科學院陜西分院為基礎，成立中國科學院西北分院?？紤]到新疆地區偏遠，少數民族多而集中和資源豐富，保留了新疆分院的建制，歸屬西北分院領導。

1962年4月9日，中國科學院在蘭州同時為中國科學院西北分院和西北局科學技術委員會（以下稱西北局科委）舉辦了成立大會。參加會議的有中國科學院在西北地區的直屬研究所和大區重點研究所的領導干部、科學家、科技人員代表；新疆分院、陜西分院、蘭州分院的領導干部，共70人。西北局書記處書記王林同志在會上講了話；國家科委、西北局宣傳部和西北局科委的負責同志出席會議并作指導。西北分院負責同志分別傳達了“廣州科學會議”精神和周恩來總理、陳毅副總理的講話。中國科學院秘書長郁文同志參加了會議，作了講話，并和中共西北局研究了西北分院的設置、人員精簡等事項，對今后的科研工作任務提出了建議。在這次會議上，正式宣布了成立中國科學院西北分院的決定。西北分院地址在蘭州市盤旋路寧臥莊。

1962年12月下旬，中國科學院與西北局和陜西省委商定：西北分院遷至西安市南郊邊家村。1963年元月1日，西北分院正式對外辦公。時逸之任黨組書記兼院長，徐勁 、董杰任副院長。1964年后，按中央精神，中科院西北分院成立中共西北分院黨委，建立政治部，時逸之任黨委書記兼院長，陳舜瑤（時任中共西北局宣傳部副部長）任黨委副書記兼政治部主任，黃華青任黨委副書記兼副院長，徐勁、華壽俊任副院長。

西北分院遷至西安后，由于在蘭州的中國科學院所屬單位較多，西北分院在蘭州市盤旋路寧臥莊設立了“中國科學院西北分院蘭州各所公共事務管理處”，其主要職能是為蘭州的中國科學院各研究單位提供水電暖衛、環境管理、維修等服務。

文革初期，中國科學院西北分院黨政領導班子和組織機構運轉正常?！按蟠摗遍_始后，群眾組織相繼成立，原有的科研秩序被沖破。

1970年7月15日，中國科學院下文：“經國務院批準，同意撤銷我院各大區分院。分院人員及所屬單位由所在省市負責安排處理[（70）科字第19號文件] ”。