1849-1851年曾为州府，并作为淘金者的商品供应地； 在1850年正式立市时也是加州加入美国联邦后的第一个成立的城市，也是加州的第一个首府。在第二次世界大战结束后为了安置许多的退伍军人和他们的家庭，以及应付1950年代和1960年代的人口扩张和急速经济成长，在做为一个农业城镇150年后，圣荷西渐渐成为旧金山和后来1970年代硅谷的一个住房社区。随著高科技公司在1980年代和1990年代创立于或移入圣荷西，圣荷西也逐渐成为硅谷的商业和研发中心，也开始有了硅谷首都(Capital of Silicon Valley)这个别名。1864年铁路通旧金山，该地发展为圣克拉拉谷地农产品的集散和加工中心。
第二次世界大战后，城市人口成倍增长，工业发展较快。电子工业发达，东南郊的圣克拉拉谷地有“硅谷”之称，集中电子计算机、电子仪表、宇航设备等许多工厂；传统的水果罐头和果品加工工业仍占重要地位，其他还有农业机械、服装和酿酒等；市内商业繁荣，有140多个购物中心。该地是州际公路的中心，有2 条铁路线和1个大型机场；城东居住区多维多利亚式建筑。城东北的阿卢姆罗克公园景色秀丽，内有数处矿泉；玫瑰公园以搜集优良玫瑰著称；城内有州立大学等3所高等学校罗西克鲁西安埃及博物馆珍藏有古埃及的艺术品。
Adobe、IDT公司的总部便位于美国加州圣何塞。另外，根据2004年美国联邦调查局的统计，圣何塞市保有全美国人口在50万人以上的主要大城市中最安全城市的纪录。这个统计包含谋杀、强暴、强盗、攻击、抢劫、和汽车窃盗等六个犯罪项目。
