Пожалуйста, перезапустите ядро Mathematica. Вы неправильно установили некоторые символы, потому что нет причин, по которым ваш код не должен работать
f[x_] = (Cos[x])/(x^2 - 2*x - 3); d = Plot[f[x], ]; e = ListPlot[{}, PlotStyle -> PointSize[0.02]]; Show[d, e] 