1953年1月，为适应全国沿海港口建设的需要，中交一航局二公司的前身——“交通部航务工程总局筑港工程公司青岛区工程处”应运而生，主要承担青岛港的修建任务。3月，组织结构进一步完善，成立“交通部航务工程总局筑港工程公司青岛区工程处”。8月正式更名为“交通部航务工程总局筑港工程局青岛区工程处”，是公司的最早建制，也是青岛地区最早的筑港队伍。
1955年2月10日，根据交通部下达的命令，青岛区工程处开始归属航务工程总局直接领导。
1957年，青岛区工程处与上海工程队合并成立交通部航务工程总局第三工程局，第三工程局在山东设置一队（主战青岛）与二队（主战威海）。
1959年，一队、二队统一合并为青岛工程队，后与港务局、海运局、红星船厂联合成立了“山东省交通厅海运管理局”，称“山东省交通运输厅海运管理局青岛筑港工程队”，办公地址设于青岛市冠县路70号。
1961年4月1日，按交通部集结全国筑港队伍的要求，筑港工程队从海运局筑港工程队分离出来，划归交通部青岛港务局管理，改称“交通部青岛港务管理局筑港工程处”，办公地址设在青岛商河路。
1961年11月7日，根据交通部通知要求，原“交通部（天津）渤海工程局”、“交通部（徐州）航务工程局”和“青岛（港务局）筑港工程处”三家合并为“交通部航务工程局”。原青岛（港务局）筑港工程处重新命名为第二工程处（驻地青岛）。
1961年12月23日，正式更名为“交通部航务工程局第二工程处”，简称“航务二处”，办公地址在潍县路85号。
1963年4月17日，交通部下达《关于更改四个直属航务工程局名称的通知》，“交通部航务工程局”更名为“交通部第一航务工程局”。5月18日，公司由“交通部航务工程局第二工程处”改称为“交通部第一航务工程局第二工程处”。
1984年，由“处”改为“公司”。
1998年，中港总公司成立后改称“中港一航局第二工程有限公司”。
2006年，中交集团上市重组后命名为“中交一航局第二工程有限公司”沿用至今。
在这些历史性的变迁中，伴随国家经济建设的进程和港口事业的发展，公司的施工能力不断提升，施工领域不断扩大，施工地域越来越广。特别是改革开放和建设社会主义市场经济以来，公司迅猛发展，生产力得到极大释放，公司逐步走向具有国际竞争力的综合性现代化大型施工企业之路。