La principale différence entre le Sony FE 70-200mm f/2.8 GM OSS et la version Mark II réside dans l'amélioration de la netteté de l'image, l'autofocus plus rapide et plus précis et le poids nettement plus faible de la version Mark II. La Mark II est dotée de quatre moteurs linéaires XD pour l'autofocus, ce qui donne des résultats sensiblement meilleurs, notamment en cas de mouvements rapides et sur les modèles d'appareils photo récents. En outre, la Mark II effectue une mise au point plus rapprochée et est globalement plus nette sur l'ensemble du champ, en particulier sur les bords. Le poids du Mark II est d'environ 1,045 g, ce qui est nettement plus léger que le modèle précédent. L'utilisation a également été améliorée avec une nouvelle bague de diaphragme et des modes de stabilisation supplémentaires.