Hola
Te diria que me digas de donde o quien te ha dado ese comando UPDATE para cambiar el CHARACTER SET?
Para tu informacion no es recomendable actualizar las tablas de diccionario de forma directa, como en tu caso la SYS.PROPS$. Tecnicamente es posible pero te puedes encontrar con errores inesperados.
Existen comandos de la propia base de datos para cambiar character set de la misma familia. Si no es de la misma familia en algunos casos hay que recrear la base de datos (exportando e importando)
ALTER DATABASE [<db_name>] CHARACTER SET <new_character_set>