Для Windows 10 клиенты используют Get-SmbConnection
PowerShell с правами администратора. У него есть дополнительные поля, которые не отображаются в формате таблицы по умолчанию, но могут быть запрошены по имени:
Get-SmbConnection | ft ServerName,ShareName,Encrypted
Для клиентов Linux, использующих модуль ядра cifs (монтирование файловой системы ядра), я думаю, что это должно быть доступно в файле /proc/fs/cifs/DebugData
вместе с другой информацией, но либо его нет на самом деле, либо, по крайней мере, не очевидно. См. Абзац smbclient ниже.
Для клиентов Linux, использующих библиотеку smbclient пользовательского пространства (включая пути smb: // GNOME), простого способа узнать нет. Я бы запустил захват пакетов, используя Wireshark, и посмотрел бы, что происходит, когда я читаю файл - разница между простыми и зашифрованными пакетами SMB легко заметна.