Do tega pride zaradi ločitve CPE od pomnilnika. Prepustnost podatkov med CPE in pomnilnikom je majhna glede na velikost pomnilnika. V sodobnih računalnikih je ta propustnost tudi zelo majhna v primeri s hitrostjo CPE. Zato je CPE (centralna procesna enota) prisiljena čakati na konec prenosa podatkov iz pomnilnika oziroma v pomnilnik.
Von Neumanovo ozko grlo lahko malo olajšamo z uporabo predpomnenja (cache) med CPE in pomnilnikom. Problem olajša tudi predvidevanje (napovedovanje), kaj naj bi računalnik naredil v naslednjih korakih.