IBM的歷史可以追溯到電子計(jì)算機(jī)發(fā)展前的幾十年，在電子計(jì)算機(jī)發(fā)展之前，它經(jīng)營穿孔卡片數(shù)據(jù)處理設(shè)備。IBM于1911年6月15日在賓厄姆頓西幾英里處的紐約恩迪科特作為CTR公司注冊(cè)。三個(gè)獨(dú)立公司合并建立了CTR公司，它們是：列表機(jī)公司(1896年創(chuàng)立于華盛頓）、計(jì)算表公司(1901年創(chuàng)建于俄亥俄州代頓）和國際時(shí)代唱片公司(1900年創(chuàng)辦于紐約州恩迪科特）。那時(shí)列表機(jī)公司的總裁也即創(chuàng)辦人是Herman Hollerith。合并背后的關(guān)鍵人物是金融家Charles Flint，他召集三家公司的創(chuàng)始人提出兼并，并在CTR中任職直到1930年退休。

Thomas J. Watson是IBM的創(chuàng)始人，1914年擔(dān)任CTR總經(jīng)理，1915年擔(dān)任總裁。1917年，CTR以國際商用機(jī)器有限公司進(jìn)入加拿大市場，1924年2月14改名為國際商業(yè)機(jī)器公司（IBM）。

公司合并成CTR制造各種產(chǎn)品，包括員工計(jì)時(shí)系統(tǒng)、磅秤、自動(dòng)切肉機(jī)，而且最重要的是發(fā)展計(jì)算機(jī)、穿孔卡片設(shè)備.一段時(shí)間CTR集中精力專做穿孔卡片，不再參與其他活動(dòng)。

IBM在1932年投入巨資100萬美元建設(shè)第一個(gè)企業(yè)實(shí)驗(yàn)室，這個(gè)實(shí)驗(yàn)室在整個(gè)30年代的研發(fā)讓IBM在技術(shù)產(chǎn)品上獲得領(lǐng)先。在整個(gè)經(jīng)濟(jì)大蕭條期間，IBM一直在研發(fā)和新產(chǎn)品上投資，它的產(chǎn)品比所有其他公司都更好、更快、更可靠，它因此贏得了獨(dú)家代理羅斯福新政會(huì)計(jì)項(xiàng)目的合同。1935年時(shí)IBM的卡片統(tǒng)計(jì)機(jī)產(chǎn)品，已經(jīng)占領(lǐng)美國市場的85.7%，IBM公司因卡片機(jī)的大量銷售而積累雄厚的財(cái)力和強(qiáng)大的銷售服務(wù)能力，為以后成為計(jì)算機(jī)領(lǐng)域的主宰奠定了重要的基礎(chǔ)。

IBM與中國的緣分源遠(yuǎn)流長。早在1934年，IBM 公司就為北京協(xié)和醫(yī)院安裝了第一臺(tái)商用處理機(jī)。1936年，IBM在遠(yuǎn)東地區(qū)的第一個(gè)辦公室就設(shè)立在上海，為其在中國乃至整個(gè)東亞地區(qū)布局發(fā)展奠定了基礎(chǔ)。1937年，中國第一個(gè)越洋電話，就從IBM上海辦公室撥出，從此開辟了中國與世界連接的新途徑。